<div dir="ltr">I have no idea. You can try -build_twosided allreduce. If not working, try to write an example.<div><div dir="ltr" class="gmail_signature" data-smartmail="gmail_signature"><div dir="ltr">--Junchao Zhang</div></div></div><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, Jul 14, 2020 at 11:30 AM Fande Kong <<a href="mailto:fdkong.jd@gmail.com">fdkong.jd@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr">The petsc configuration log was attached.</div><div dir="ltr"><br></div><div dir="ltr">Thanks,</div><div dir="ltr"><br></div><div dir="ltr">Fande,<br><div><br></div><div><br></div></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, Jul 14, 2020 at 9:16 AM Fande Kong <<a href="mailto:fdkong.jd@gmail.com" target="_blank">fdkong.jd@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr">Hi All,</div><div dir="ltr"><br></div><div dir="ltr"><br></div><div>I was doing a large-scale simulation using 12288 cores and had the following error. The code ran fine using less than 12288 cores.</div><div><br></div><div>Any quick suggestions to track down this issue?</div><div><br></div><div>Thanks,</div><div><br></div><div>Fande,</div><div dir="ltr"><br><div><br></div><div><div>[3342]PETSC ERROR: --------------------- Error Message --------------------------------------------------------------</div><div>[3342]PETSC ERROR: Petsc has generated inconsistent data</div><div>[3342]PETSC ERROR: Received vector entry 0 out of local range [344829312,344964096)]</div><div>[3342]PETSC ERROR: See <a href="https://www.mcs.anl.gov/petsc/documentation/faq.html" target="_blank">https://www.mcs.anl.gov/petsc/documentation/faq.html</a> for trouble shooting.</div><div>[3342]PETSC ERROR: Petsc Release Version 3.13.3, unknown </div><div>[3342]PETSC ERROR: /home/kongf/workhome/sawtooth/griffin/griffin-opt on a arch-moose named r1i4n34 by kongf Tue Jul 14 08:44:02 2020</div><div>[3342]PETSC ERROR: Configure options --download-hypre=1 --with-debugging=no --with-shared-libraries=1 --download-fblaslapack=1 --download-metis=1 --download-ptscotch=1 --download-parmetis=1 --download-superlu_dist=1 --download-mumps=1 --download-scalapack=1 --download-slepc=1 --with-mpi=1 --with-cxx-dialect=C++11 --with-fortran-bindings=0 --with-sowing=0 --with-64-bit-indices --download-mumps=0</div><div>[3342]PETSC ERROR: #1 VecAssemblyEnd_MPI_BTS() line 324 in /home/kongf/workhome/sawtooth/moosers/petsc/src/vec/vec/impls/mpi/pbvec.c</div><div>[3342]PETSC ERROR: #2 VecAssemblyEnd() line 171 in /home/kongf/workhome/sawtooth/moosers/petsc/src/vec/vec/interface/vector.c</div><div>[cli_3342]: aborting job:</div><div>application called MPI_Abort(MPI_COMM_WORLD, 1) - process 3342</div></div></div></div>
</blockquote></div>
</blockquote></div>