<div dir="ltr">Thanks!</div><div class="gmail_extra"><br><div class="gmail_quote">On Fri, Sep 29, 2017 at 11:14 PM, Satish Balay <span dir="ltr"><<a href="mailto:balay@mcs.anl.gov" target="_blank">balay@mcs.anl.gov</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><span class="">On Sat, 30 Sep 2017, Hao Zhang wrote:<br>
<br>
</span><span class="">> it seems that running petsc with download-mpich is a dead end for me. I've<br>
> re-compiled PETSc with mpich options but I can't reinstall TORQUE for all<br>
> users just for my own test. TORQUE needs root access.<br>
> Do you have more suggestion on the issue?<br>
<br>
</span>As mentioned - the previous log pointed to errors in your code. You should look<br>
at them - and try to fix your code.<br>
<span class=""><br>
> just a quick refresh. my PETSc<br>
> complained floating point exception. for coarse and medium mesh grid<br>
> without fp_trap option, my program runs. with fp_trap, program crashed<br>
> right away.<br>
<br>
</span>After memory corruptions are eliminated - if the errors persist - you<br>
might have to use the debugger to determine why NaNs are getting<br>
generated.<br>
<span class="HOEnZb"><font color="#888888"><br>
Satish<br>
</font></span><div class="HOEnZb"><div class="h5"><br>
><br>
> Thanks again!<br>
><br>
> On Fri, Sep 29, 2017 at 9:33 PM, Hao Zhang <<a href="mailto:hbcbh1999@gmail.com">hbcbh1999@gmail.com</a>> wrote:<br>
><br>
> >  Thanks. I will recompile and submit a new debug log<br>
> ><br>
> > On Fri, Sep 29, 2017 at 9:31 PM, Satish Balay <<a href="mailto:balay@mcs.anl.gov">balay@mcs.anl.gov</a>> wrote:<br>
> ><br>
> >> Most of this is from openmpi. Its best to use --download-mpich<br>
> >> for valgrind clean mpi as mentioned below.<br>
> >><br>
> >> <a href="http://www.mcs.anl.gov/petsc/documentation/faq.html#valgrind" rel="noreferrer" target="_blank">http://www.mcs.anl.gov/petsc/<wbr>documentation/faq.html#<wbr>valgrind</a><br>
> >><br>
> >> [attempting to remove openmpi messages] - all messages below appear to<br>
> >> be from your appliation code. And I don't see any messages from PETSc<br>
> >> code in this log.<br>
> >><br>
> >> Once there is memory corruption we get random behavior from<br>
> >> application. So its best to fix all these issues and make this<br>
> >> application valgrind clean.<br>
> >><br>
> >> Satish<br>
> >><br>
> >> On Sat, 30 Sep 2017, Hao Zhang wrote:<br>
> >><br>
> >> <snip><br>
> >><br>
> >> > ==31497== Invalid write of size 8<br>
> >> > ==31497==    at 0x643685: level_wave_func_Meniscus (imkcurve.c:1826)<br>
> >> > ==31497==    by 0x65299B: assign_two_comp_domain (imksurf.c:2046)<br>
> >> > ==31497==    by 0x64623B: make_level_surface (imksurf.c:245)<br>
> >> > ==31497==    by 0x5458AF: FT_InitIntfc3d (finit.c:2137)<br>
> >> > ==31497==    by 0x544CA3: FT_InitIntfc (finit.c:1853)<br>
> >> > ==31497==    by 0x40C072: main (iFluid.cpp:218)<br>
> >> > ==31497==  Address 0x7fe859c38 is on thread 1's stack<br>
> >> > ==31497==<br>
> >> > ==31497== Invalid write of size 8<br>
> >> > ==31497==    at 0x64368C: level_wave_func_Meniscus (imkcurve.c:1826)<br>
> >> > ==31497==    by 0x65299B: assign_two_comp_domain (imksurf.c:2046)<br>
> >> > ==31497==    by 0x64623B: make_level_surface (imksurf.c:245)<br>
> >> > ==31497==    by 0x5458AF: FT_InitIntfc3d (finit.c:2137)<br>
> >> > ==31497==    by 0x544CA3: FT_InitIntfc (finit.c:1853)<br>
> >> > ==31497==    by 0x40C072: main (iFluid.cpp:218)<br>
> >> > ==31497==  Address 0x7fe859c30 is on thread 1's stack<br>
> >> > ==31497==<br>
> >> > ==31497== Invalid read of size 8<br>
> >> > ==31497==    at 0x643693: level_wave_func_Meniscus (imkcurve.c:1831)<br>
> >> > ==31497==    by 0x65299B: assign_two_comp_domain (imksurf.c:2046)<br>
> >> > ==31497==    by 0x64623B: make_level_surface (imksurf.c:245)<br>
> >> > ==31497==    by 0x5458AF: FT_InitIntfc3d (finit.c:2137)<br>
> >> > ==31497==    by 0x544CA3: FT_InitIntfc (finit.c:1853)<br>
> >> > ==31497==    by 0x40C072: main (iFluid.cpp:218)<br>
> >> > ==31497==  Address 0x7fe859c38 is on thread 1's stack<br>
> >> > ==31497==<br>
> >> > ==31497== Invalid write of size 8<br>
> >> > ==31497==    at 0x64372D: level_wave_func_Meniscus (imkcurve.c:1848)<br>
> >> > ==31497==    by 0x65299B: assign_two_comp_domain (imksurf.c:2046)<br>
> >> > ==31497==    by 0x64623B: make_level_surface (imksurf.c:245)<br>
> >> > ==31497==    by 0x5458AF: FT_InitIntfc3d (finit.c:2137)<br>
> >> > ==31497==    by 0x544CA3: FT_InitIntfc (finit.c:1853)<br>
> >> > ==31497==    by 0x40C072: main (iFluid.cpp:218)<br>
> >> > ==31497==  Address 0x7fe859c18 is on thread 1's stack<br>
> >> > ==31497==<br>
> >> > ==31497== Invalid read of size 8<br>
> >> > ==31497==    at 0x7ED3127: tan (in /lib64/<a href="http://libm-2.12.so" rel="noreferrer" target="_blank">libm-2.12.so</a>)<br>
> >> > ==31497==    by 0x65299B: assign_two_comp_domain (imksurf.c:2046)<br>
> >> > ==31497==    by 0x64623B: make_level_surface (imksurf.c:245)<br>
> >> > ==31497==    by 0x5458AF: FT_InitIntfc3d (finit.c:2137)<br>
> >> > ==31497==    by 0x544CA3: FT_InitIntfc (finit.c:1853)<br>
> >> > ==31497==    by 0x40C072: main (iFluid.cpp:218)<br>
> >> > ==31497==  Address 0x7fe859c18 is on thread 1's stack<br>
> >> > ==31497==<br>
> >> > ==31497== Invalid read of size 8<br>
> >> > ==31497==    at 0x643755: level_wave_func_Meniscus (imkcurve.c:1853)<br>
> >> > ==31497==    by 0x65299B: assign_two_comp_domain (imksurf.c:2046)<br>
> >> > ==31497==    by 0x64623B: make_level_surface (imksurf.c:245)<br>
> >> > ==31497==    by 0x5458AF: FT_InitIntfc3d (finit.c:2137)<br>
> >> > ==31497==    by 0x544CA3: FT_InitIntfc (finit.c:1853)<br>
> >> > ==31497==    by 0x40C072: main (iFluid.cpp:218)<br>
> >> > ==31497==  Address 0x7fe859c30 is on thread 1's stack<br>
> >> > ==31497==<br>
> >> > ==31497== Invalid read of size 8<br>
> >> > ==31497==    at 0x643765: level_wave_func_Meniscus (imkcurve.c:1854)<br>
> >> > ==31497==    by 0x65299B: assign_two_comp_domain (imksurf.c:2046)<br>
> >> > ==31497==    by 0x64623B: make_level_surface (imksurf.c:245)<br>
> >> > ==31497==    by 0x5458AF: FT_InitIntfc3d (finit.c:2137)<br>
> >> > ==31497==    by 0x544CA3: FT_InitIntfc (finit.c:1853)<br>
> >> > ==31497==    by 0x40C072: main (iFluid.cpp:218)<br>
> >> > ==31497==  Address 0x7fe859c30 is on thread 1's stack<br>
> >> > ==31497==<br>
> >> > ==31497== Invalid read of size 8<br>
> >> > ==31497==    at 0x643A7F: level_wave_func_Meniscus (imkcurve.c:1944)<br>
> >> > ==31497==    by 0x65299B: assign_two_comp_domain (imksurf.c:2046)<br>
> >> > ==31497==    by 0x64623B: make_level_surface (imksurf.c:245)<br>
> >> > ==31497==    by 0x5458AF: FT_InitIntfc3d (finit.c:2137)<br>
> >> > ==31497==    by 0x544CA3: FT_InitIntfc (finit.c:1853)<br>
> >> > ==31497==    by 0x40C072: main (iFluid.cpp:218)<br>
> >> > ==31497==  Address 0x7fe859c30 is on thread 1's stack<br>
> >> > ==31497==<br>
> >> > ==31497== Invalid write of size 8<br>
> >> > ==31497==    at 0x643A92: level_wave_func_Meniscus (imkcurve.c:1944)<br>
> >> > ==31497==    by 0x65299B: assign_two_comp_domain (imksurf.c:2046)<br>
> >> > ==31497==    by 0x64623B: make_level_surface (imksurf.c:245)<br>
> >> > ==31497==    by 0x5458AF: FT_InitIntfc3d (finit.c:2137)<br>
> >> > ==31497==    by 0x544CA3: FT_InitIntfc (finit.c:1853)<br>
> >> > ==31497==    by 0x40C072: main (iFluid.cpp:218)<br>
> >> > ==31497==  Address 0x7feffecf0 is on thread 1's stack<br>
> >> > ==31497==<br>
> >> > ==31497== Invalid read of size 8<br>
> >> > ==31497==    at 0x643AEB: level_wave_func_Meniscus (imkcurve.c:1955)<br>
> >> > ==31497==    by 0x65299B: assign_two_comp_domain (imksurf.c:2046)<br>
> >> > ==31497==    by 0x64623B: make_level_surface (imksurf.c:245)<br>
> >> > ==31497==    by 0x5458AF: FT_InitIntfc3d (finit.c:2137)<br>
> >> > ==31497==    by 0x544CA3: FT_InitIntfc (finit.c:1853)<br>
> >> > ==31497==    by 0x40C072: main (iFluid.cpp:218)<br>
> >> > ==31497==  Address 0x7feffecf0 is on thread 1's stack<br>
> >> > ==31497==<br>
> >> > ==31497== Conditional jump or move depends on uninitialised value(s)<br>
> >> > ==31497==    at 0x428B9F:<br>
> >> > Incompress_Solver_Smooth_<wbr>Basis::setAdvectionDt_vd() (iFbasic.cpp:2799)<br>
> >> > ==31497==    by 0x4B8BB9:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::<wbr>setInitialCondition_<br>
> >> RSSY_vd(_LEVEL_FUNC_PACK*)<br>
> >> > (iFcartsn3d.cpp:15253)<br>
> >> > ==31497==    by 0x40C485: main (iFluid.cpp:349)<br>
> >> > ==31497==<br>
> >> > ==31497== Conditional jump or move depends on uninitialised value(s)<br>
> >> > ==31497==    at 0x428BA9:<br>
> >> > Incompress_Solver_Smooth_<wbr>Basis::setAdvectionDt_vd() (iFbasic.cpp:2799)<br>
> >> > ==31497==    by 0x4B8BB9:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::<wbr>setInitialCondition_<br>
> >> RSSY_vd(_LEVEL_FUNC_PACK*)<br>
> >> > (iFcartsn3d.cpp:15253)<br>
> >> > ==31497==    by 0x40C485: main (iFluid.cpp:349)<br>
> >> > ==31497==<br>
> >> > ==31497== Conditional jump or move depends on uninitialised value(s)<br>
> >> > ==31497==    at 0x85B00E3: vfprintf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85BA189: printf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x486108:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::<wbr>compDiffWithSmoothPro<br>
> >> perty_velocity_MAC_coupled_vd(<wbr>)<br>
> >> > (iFcartsn3d.cpp:6101)<br>
> >> > ==31497==    by 0x4CBF0D:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::solve_vd(double)<br>
> >> > (iFcartsn3d.cpp:18574)<br>
> >> > ==31497==    by 0x40C72E: ifluid_driver(_Front*,<br>
> >> > Incompress_Solver_Smooth_<wbr>Basis*, _F_BASIC_DATA*) (iFluid.cpp:419)<br>
> >> > ==31497==    by 0x40C4F3: main (iFluid.cpp:369)<br>
> >> > ==31497==<br>
> >> > ==31497== Conditional jump or move depends on uninitialised value(s)<br>
> >> > ==31497==    at 0x85B0101: vfprintf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85BA189: printf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x486108:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::<wbr>compDiffWithSmoothPro<br>
> >> perty_velocity_MAC_coupled_vd(<wbr>)<br>
> >> > (iFcartsn3d.cpp:6101)<br>
> >> > ==31497==    by 0x4CBF0D:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::solve_vd(double)<br>
> >> > (iFcartsn3d.cpp:18574)<br>
> >> > ==31497==    by 0x40C72E: ifluid_driver(_Front*,<br>
> >> > Incompress_Solver_Smooth_<wbr>Basis*, _F_BASIC_DATA*) (iFluid.cpp:419)<br>
> >> > ==31497==    by 0x40C4F3: main (iFluid.cpp:369)<br>
> >> > ==31497==<br>
> >> > ==31497== Conditional jump or move depends on uninitialised value(s)<br>
> >> > ==31497==    at 0x4ED737:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::<wbr>computeSubgridModel_vd()<br>
> >> > (iFcartsn3d.cpp:24519)<br>
> >> > ==31497==    by 0x4CBFBC:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::solve_vd(double)<br>
> >> > (iFcartsn3d.cpp:18594)<br>
> >> > ==31497==    by 0x40C72E: ifluid_driver(_Front*,<br>
> >> > Incompress_Solver_Smooth_<wbr>Basis*, _F_BASIC_DATA*) (iFluid.cpp:419)<br>
> >> > ==31497==    by 0x40C4F3: main (iFluid.cpp:369)<br>
> >> > ==31497==<br>
> >> > ==31497== Conditional jump or move depends on uninitialised value(s)<br>
> >> > ==31497==    at 0x4ED754:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::<wbr>computeSubgridModel_vd()<br>
> >> > (iFcartsn3d.cpp:24519)<br>
> >> > ==31497==    by 0x4CBFBC:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::solve_vd(double)<br>
> >> > (iFcartsn3d.cpp:18594)<br>
> >> > ==31497==    by 0x40C72E: ifluid_driver(_Front*,<br>
> >> > Incompress_Solver_Smooth_<wbr>Basis*, _F_BASIC_DATA*) (iFluid.cpp:419)<br>
> >> > ==31497==    by 0x40C4F3: main (iFluid.cpp:369)<br>
> >> > ==31497==<br>
> >> > ==31497== Conditional jump or move depends on uninitialised value(s)<br>
> >> > ==31497==    at 0x85B4CF0: __printf_fp (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85B089F: vfprintf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85BA189: printf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x4ED9F7:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::<wbr>computeSubgridModel_vd()<br>
> >> > (iFcartsn3d.cpp:24549)<br>
> >> > ==31497==    by 0x4CBFBC:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::solve_vd(double)<br>
> >> > (iFcartsn3d.cpp:18594)<br>
> >> > ==31497==    by 0x40C72E: ifluid_driver(_Front*,<br>
> >> > Incompress_Solver_Smooth_<wbr>Basis*, _F_BASIC_DATA*) (iFluid.cpp:419)<br>
> >> > ==31497==    by 0x40C4F3: main (iFluid.cpp:369)<br>
> >> > ==31497==<br>
> >> > ==31497== Conditional jump or move depends on uninitialised value(s)<br>
> >> > ==31497==    at 0x85B4F91: __printf_fp (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85B089F: vfprintf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85BA189: printf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x4ED9F7:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::<wbr>computeSubgridModel_vd()<br>
> >> > (iFcartsn3d.cpp:24549)<br>
> >> > ==31497==    by 0x4CBFBC:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::solve_vd(double)<br>
> >> > (iFcartsn3d.cpp:18594)<br>
> >> > ==31497==    by 0x40C72E: ifluid_driver(_Front*,<br>
> >> > Incompress_Solver_Smooth_<wbr>Basis*, _F_BASIC_DATA*) (iFluid.cpp:419)<br>
> >> > ==31497==    by 0x40C4F3: main (iFluid.cpp:369)<br>
> >> > ==31497==<br>
> >> > ==31497== Conditional jump or move depends on uninitialised value(s)<br>
> >> > ==31497==    at 0x85AE396: __mpn_extract_double (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a><br>
> >> )<br>
> >> > ==31497==    by 0x85B51BD: __printf_fp (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85B089F: vfprintf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85BA189: printf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x4ED9F7:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::<wbr>computeSubgridModel_vd()<br>
> >> > (iFcartsn3d.cpp:24549)<br>
> >> > ==31497==    by 0x4CBFBC:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::solve_vd(double)<br>
> >> > (iFcartsn3d.cpp:18594)<br>
> >> > ==31497==    by 0x40C72E: ifluid_driver(_Front*,<br>
> >> > Incompress_Solver_Smooth_<wbr>Basis*, _F_BASIC_DATA*) (iFluid.cpp:419)<br>
> >> > ==31497==    by 0x40C4F3: main (iFluid.cpp:369)<br>
> >> > ==31497==<br>
> >> > ==31497== Conditional jump or move depends on uninitialised value(s)<br>
> >> > ==31497==    at 0x85AE39B: __mpn_extract_double (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a><br>
> >> )<br>
> >> > ==31497==    by 0x85B51BD: __printf_fp (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85B089F: vfprintf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85BA189: printf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x4ED9F7:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::<wbr>computeSubgridModel_vd()<br>
> >> > (iFcartsn3d.cpp:24549)<br>
> >> > ==31497==    by 0x4CBFBC:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::solve_vd(double)<br>
> >> > (iFcartsn3d.cpp:18594)<br>
> >> > ==31497==    by 0x40C72E: ifluid_driver(_Front*,<br>
> >> > Incompress_Solver_Smooth_<wbr>Basis*, _F_BASIC_DATA*) (iFluid.cpp:419)<br>
> >> > ==31497==    by 0x40C4F3: main (iFluid.cpp:369)<br>
> >> > ==31497==<br>
> >> > ==31497== Conditional jump or move depends on uninitialised value(s)<br>
> >> > ==31497==    at 0x85B59EC: __printf_fp (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85B089F: vfprintf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85BA189: printf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x4ED9F7:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::<wbr>computeSubgridModel_vd()<br>
> >> > (iFcartsn3d.cpp:24549)<br>
> >> > ==31497==    by 0x4CBFBC:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::solve_vd(double)<br>
> >> > (iFcartsn3d.cpp:18594)<br>
> >> > ==31497==    by 0x40C72E: ifluid_driver(_Front*,<br>
> >> > Incompress_Solver_Smooth_<wbr>Basis*, _F_BASIC_DATA*) (iFluid.cpp:419)<br>
> >> > ==31497==    by 0x40C4F3: main (iFluid.cpp:369)<br>
> >> > ==31497==<br>
> >> > ==31497== Conditional jump or move depends on uninitialised value(s)<br>
> >> > ==31497==    at 0x85B5A9D: __printf_fp (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85B089F: vfprintf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85BA189: printf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x4ED9F7:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::<wbr>computeSubgridModel_vd()<br>
> >> > (iFcartsn3d.cpp:24549)<br>
> >> > ==31497==    by 0x4CBFBC:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::solve_vd(double)<br>
> >> > (iFcartsn3d.cpp:18594)<br>
> >> > ==31497==    by 0x40C72E: ifluid_driver(_Front*,<br>
> >> > Incompress_Solver_Smooth_<wbr>Basis*, _F_BASIC_DATA*) (iFluid.cpp:419)<br>
> >> > ==31497==    by 0x40C4F3: main (iFluid.cpp:369)<br>
> >> > ==31497==<br>
> >> > ==31497== Conditional jump or move depends on uninitialised value(s)<br>
> >> > ==31497==    at 0x85B5C13: __printf_fp (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85B089F: vfprintf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85BA189: printf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x4ED9F7:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::<wbr>computeSubgridModel_vd()<br>
> >> > (iFcartsn3d.cpp:24549)<br>
> >> > ==31497==    by 0x4CBFBC:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::solve_vd(double)<br>
> >> > (iFcartsn3d.cpp:18594)<br>
> >> > ==31497==    by 0x40C72E: ifluid_driver(_Front*,<br>
> >> > Incompress_Solver_Smooth_<wbr>Basis*, _F_BASIC_DATA*) (iFluid.cpp:419)<br>
> >> > ==31497==    by 0x40C4F3: main (iFluid.cpp:369)<br>
> >> > ==31497==<br>
> >> > ==31497== Conditional jump or move depends on uninitialised value(s)<br>
> >> > ==31497==    at 0x85B5CA4: __printf_fp (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85B089F: vfprintf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85BA189: printf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x4ED9F7:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::<wbr>computeSubgridModel_vd()<br>
> >> > (iFcartsn3d.cpp:24549)<br>
> >> > ==31497==    by 0x4CBFBC:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::solve_vd(double)<br>
> >> > (iFcartsn3d.cpp:18594)<br>
> >> > ==31497==    by 0x40C72E: ifluid_driver(_Front*,<br>
> >> > Incompress_Solver_Smooth_<wbr>Basis*, _F_BASIC_DATA*) (iFluid.cpp:419)<br>
> >> > ==31497==    by 0x40C4F3: main (iFluid.cpp:369)<br>
> >> > ==31497==<br>
> >> > ==31497== Conditional jump or move depends on uninitialised value(s)<br>
> >> > ==31497==    at 0x85B625E: __printf_fp (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85B089F: vfprintf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85BA189: printf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x4ED9F7:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::<wbr>computeSubgridModel_vd()<br>
> >> > (iFcartsn3d.cpp:24549)<br>
> >> > ==31497==    by 0x4CBFBC:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::solve_vd(double)<br>
> >> > (iFcartsn3d.cpp:18594)<br>
> >> > ==31497==    by 0x40C72E: ifluid_driver(_Front*,<br>
> >> > Incompress_Solver_Smooth_<wbr>Basis*, _F_BASIC_DATA*) (iFluid.cpp:419)<br>
> >> > ==31497==    by 0x40C4F3: main (iFluid.cpp:369)<br>
> >> > ==31497==<br>
> >> > ==31497== Conditional jump or move depends on uninitialised value(s)<br>
> >> > ==31497==    at 0x85B6242: __printf_fp (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85B089F: vfprintf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85BA189: printf (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x4ED9F7:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::<wbr>computeSubgridModel_vd()<br>
> >> > (iFcartsn3d.cpp:24549)<br>
> >> > ==31497==    by 0x4CBFBC:<br>
> >> > Incompress_Solver_Smooth_3D_<wbr>Cartesian::solve_vd(double)<br>
> >> > (iFcartsn3d.cpp:18594)<br>
> >> > ==31497==    by 0x40C72E: ifluid_driver(_Front*,<br>
> >> > Incompress_Solver_Smooth_<wbr>Basis*, _F_BASIC_DATA*) (iFluid.cpp:419)<br>
> >> > ==31497==    by 0x40C4F3: main (iFluid.cpp:369)<br>
> >> > ==31497==<br>
> >> > ==31497== Syscall param write(buf) points to uninitialised byte(s)<br>
> >> > ==31497==    at 0x86465ED: ??? (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85DCAD2: _IO_file_write@@GLIBC_2.2.5 (in /lib64/<br>
> >> > <a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85DE084: _IO_do_write@@GLIBC_2.2.5 (in /lib64/<br>
> >> <a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a><br>
> >> > )<br>
> >> > ==31497==    by 0x85DD287: _IO_file_sync@@GLIBC_2.2.5 (in /lib64/<br>
> >> > <a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x85D1999: fflush (in /lib64/<a href="http://libc-2.12.so" rel="noreferrer" target="_blank">libc-2.12.so</a>)<br>
> >> > ==31497==    by 0x6FACFA: preserve_front_advance_front3d (fadv.c:2255)<br>
> >> > ==31497==    by 0x6FA14E: mixed_advance_front3d (fadv.c:1895)<br>
> >> > ==31497==    by 0x6F9B2D: advance_front3d_tracking_<wbr>control<br>
> >> (fadv.c:1703)<br>
> >> > ==31497==    by 0x54E119: FrontAdvance (fmap.c:142)<br>
> >> > ==31497==    by 0x54DF27: FT_Propagate (fmap.c:80)<br>
> >> > ==31497==    by 0x40CA37: ifluid_driver(_Front*,<br>
> >> > Incompress_Solver_Smooth_<wbr>Basis*, _F_BASIC_DATA*) (iFluid.cpp:512)<br>
> >> > ==31497==    by 0x40C4F3: main (iFluid.cpp:369)<br>
> >> > ==31497==  Address 0x412308a is not stack'd, malloc'd or (recently)<br>
> >> free'd<br>
> >> > ==31497==<br>
> >> ><br>
> >> > On Fri, Sep 29, 2017 at 8:45 PM, Satish Balay <<a href="mailto:balay@mcs.anl.gov">balay@mcs.anl.gov</a>><br>
> >> wrote:<br>
> >> ><br>
> >> > > Can you run this code with valgrind and send the log?<br>
> >> > ><br>
> >> > > <a href="http://www.mcs.anl.gov/petsc/documentation/faq.html#valgrind" rel="noreferrer" target="_blank">http://www.mcs.anl.gov/petsc/<wbr>documentation/faq.html#<wbr>valgrind</a><br>
> >> > ><br>
> >> > > Satish<br>
> >> > ><br>
> >> > > On Sat, 30 Sep 2017, Hao Zhang wrote:<br>
> >> > ><br>
> >> > > > I've modified my source code accordingly using PETSc 3.8.0. It<br>
> >> seems no<br>
> >> > > > more useful info got printed out.<br>
> >> > > ><br>
> >> > > > On Fri, Sep 29, 2017 at 8:15 PM, Hao Zhang <<a href="mailto:hbcbh1999@gmail.com">hbcbh1999@gmail.com</a>><br>
> >> wrote:<br>
> >> > > ><br>
> >> > > > > I'm using -fp_trap as I run the simulation. the output only gives<br>
> >> > > > ><br>
> >> > > > > floating point exception<br>
> >> > > > ><br>
> >> > > > > It doesn't matter coarse grid or medium grid or more refined<br>
> >> grid. the<br>
> >> > > > > program crashed right away.<br>
> >> > > > ><br>
> >> > > > > On Fri, Sep 29, 2017 at 12:19 AM, Barry Smith <<a href="mailto:bsmith@mcs.anl.gov">bsmith@mcs.anl.gov</a><br>
> >> ><br>
> >> > > wrote:<br>
> >> > > > ><br>
> >> > > > >><br>
> >> > > > >>   Please upgrade to the latest 3.8 version of PETSc. and then<br>
> >> run with<br>
> >> > > > >> -fp_trap<br>
> >> > > > >><br>
> >> > > > >>    This message is usually an indication that a NaN or Inf got<br>
> >> into<br>
> >> > > the<br>
> >> > > > >> numerical computation. Using the latest PETSc will make it much<br>
> >> > > easier to<br>
> >> > > > >> track down.<br>
> >> > > > >><br>
> >> > > > >>   Barry<br>
> >> > > > >><br>
> >> > > > >> > On Sep 28, 2017, at 8:57 PM, Hao Zhang <<a href="mailto:hbcbh1999@gmail.com">hbcbh1999@gmail.com</a>><br>
> >> wrote:<br>
> >> > > > >> ><br>
> >> > > > >> > I'm experiencing error when doing mesh refinement(mesh x2 for<br>
> >> X, Y<br>
> >> > > and<br>
> >> > > > >> Z direction) for 3D poisson problem.<br>
> >> > > > >> > PETSc produces no errors when no mesh refinement. I've pasted<br>
> >> some<br>
> >> > > > >> debugging info here. Please advise.<br>
> >> > > > >> ><br>
> >> > > > >> ><br>
> >> > > > >> > [0]PETSC ERROR: --------------------- Error Message<br>
> >> > > > >> ------------------------------<wbr>------------------------------<wbr>--<br>
> >> > > > >> > [0]PETSC ERROR: Invalid argument<br>
> >> > > > >> > [0]PETSC ERROR: Scalar value must be same on all processes,<br>
> >> > > argument # 3<br>
> >> > > > >> > [0]PETSC ERROR: See <a href="http://www.mcs.anl.gov/petsc/" rel="noreferrer" target="_blank">http://www.mcs.anl.gov/petsc/</a><br>
> >> > > documentation/faq.html<br>
> >> > > > >> for trouble shooting.<br>
> >> > > > >> > [0]PETSC ERROR: Petsc Release Version 3.5.4, May, 23, 2015<br>
> >> > > > >> > [0]PETSC ERROR: /home/haozhang/FT.NO.FULL/<wbr>iFluid/iFluid on a<br>
> >> > > > >> arch-linux2-c-debug named vn18 by haozhang Thu Sep 28 23:47:39<br>
> >> 2017<br>
> >> > > > >> > [0]PETSC ERROR: Configure options --with-mpi-dir=/cm/shared/<br>
> >> > > apps/openmpi/gcc/64/1.8.5/<br>
> >> > > > >> --download-fblaslapack=/home/<wbr>haozhang/tmp/fblaslapack-3.4.<wbr>2.<br>
> >> tar.gz<br>
> >> > > > >> --download-hypre=/home/<wbr>haozhang/tmp/hypre-2.9.1a.tar.<wbr>gz<br>
> >> > > > >> --with-valgrind-include=/home/<wbr>haozhang/include/valgrind/<br>
> >> > > > >> > [0]PETSC ERROR: #1 VecAXPBYPCZ() line 731 in<br>
> >> > > > >> /home/haozhang/tmp/petsc-3.5.<wbr>4_HYPRE/src/vec/vec/interface/<wbr>r<br>
> >> vector.c<br>
> >> > > > >> > [0]PETSC ERROR: #2 KSPSolve_BCGS() line 87 in<br>
> >> > > > >> /home/haozhang/tmp/petsc-3.5.<wbr>4_HYPRE/src/ksp/ksp/impls/<wbr>bcgs/<br>
> >> bcgs.c<br>
> >> > > > >> > [0]PETSC ERROR: #3 KSPSolve() line 460 in<br>
> >> > > /home/haozhang/tmp/petsc-3.5.4<br>
> >> > > > >> _HYPRE/src/ksp/ksp/interface/<wbr>itfunc.c<br>
> >> > > > >> > [vn18:99838] *** Process received signal ***<br>
> >> > > > >> > [vn18:99838] Signal: Aborted (6)<br>
> >> > > > >> > [vn18:99838] Signal code:  (-6)<br>
> >> > > > >> > [vn18:99848] *** Process received signal ***<br>
> >> > > > >> > [vn18:99849] *** Process received signal ***<br>
> >> > > > >> > [vn18:99849] Signal: Aborted (6)<br>
> >> > > > >> > [vn18:99849] Signal code:  (-6)<br>
> >> > > > >> > [vn18:99848] Signal: Aborted (6)<br>
> >> > > > >> > [vn18:99848] Signal code:  (-6)<br>
> >> > > > >> > [vn18:99838] [ 0] /lib64/libpthread.so.0(+0xf790<br>
> >> )[0x2aaaadbb4790]<br>
> >> > > > >> > [vn18:99838] [ 1] [vn18:99848] [ 0]<br>
> >> /lib64/libpthread.so.0(+0xf790<br>
> >> > > > >> )[0x2aaaadbb4790]<br>
> >> > > > >> > [vn18:99848] [ 1] /lib64/libc.so.6(gsignal+0x35)<br>
> >> [0x2aaaaddf5625]<br>
> >> > > > >> > [vn18:99838] [ 2] /lib64/libc.so.6(abort+0x175)[<br>
> >> 0x2aaaaddf6e05]<br>
> >> > > > >> > [vn18:99838] [ 3] [vn18:99849] [ 0]<br>
> >> /lib64/libpthread.so.0(+0xf790<br>
> >> > > > >> )[0x2aaaadbb4790]<br>
> >> > > > >> > [vn18:99849] [ 1] [vn15:122106] *** Process received signal ***<br>
> >> > > > >> > [vn15:122106] Signal: Aborted (6)<br>
> >> > > > >> > [vn15:122106] Signal code:  (-6)<br>
> >> > > > >> > /lib64/libc.so.6(gsignal+0x35)<wbr>[0x2aaaaddf5625]<br>
> >> > > > >> > [vn18:99848] [ 2] /lib64/libc.so.6(abort+0x175)[<br>
> >> 0x2aaaaddf6e05]<br>
> >> > > > >> > [vn18:99848] [ 3] /home/haozhang/tmp/petsc-3.5.4<br>
> >> > > > >> _HYPRE/arch-linux2-c-debug/<wbr>lib/libpetsc.so.3.5(<wbr>PetscTraceBac<br>
> >> > > > >> kErrorHandler+0x503)[<wbr>0x2aaaaae1d7e1]<br>
> >> > > > >> > [vn18:99838] [ 4] /lib64/libc.so.6(gsignal+0x35)<br>
> >> [0x2aaaaddf5625]<br>
> >> > > > >> > [vn18:99849] [ 2] /lib64/libc.so.6(abort+0x175)[<br>
> >> 0x2aaaaddf6e05]<br>
> >> > > > >> > [vn18:99849] [ 3] [vn15:122107] *** Process received signal ***<br>
> >> > > > >> > [vn15:122107] Signal: Aborted (6)<br>
> >> > > > >> > [vn15:122107] Signal code:  (-6)<br>
> >> > > > >> > [vn16:86295] *** Process received signal ***<br>
> >> > > > >> > [vn16:86295] Signal: Aborted (6)<br>
> >> > > > >> > [vn16:86295] Signal code:  (-6)<br>
> >> > > > >> > [vn18:99824] *** Process received signal ***<br>
> >> > > > >> > [vn18:99824] Signal: Aborted (6)<br>
> >> > > > >> > [vn18:99824] Signal code:  (-6)<br>
> >> > > > >> > [vn18:99844] *** Process received signal ***<br>
> >> > > > >> > [vn18:99844] Signal: Aborted (6)<br>
> >> > > > >> > [vn18:99844] Signal code:  (-6)<br>
> >> > > > >> > /home/haozhang/tmp/petsc-3.5.<wbr>4_HYPRE/arch-linux2-c-debug/<wbr>lib<br>
> >> > > > >> /libpetsc.so.3.5(PetscError+<wbr>0x338)[0x2aaaaae183b3]<br>
> >> > > > >> ><br>
> >> > > > >> ><br>
> >> > > > >> ><br>
> >> > > > >> > --<br>
> >> > > > >> > Hao Zhang<br>
> >> > > > >> > Dept. of Applid Mathematics and Statistics,<br>
> >> > > > >> > Stony Brook University,<br>
> >> > > > >> > Stony Brook, New York, 11790<br>
> >> > > > >><br>
> >> > > > >><br>
> >> > > > ><br>
> >> > > > ><br>
> >> > > > > --<br>
> >> > > > > Hao Zhang<br>
> >> > > > > Dept. of Applid Mathematics and Statistics,<br>
> >> > > > > Stony Brook University,<br>
> >> > > > > Stony Brook, New York, 11790<br>
> >> > > > ><br>
> >> > > ><br>
> >> > > ><br>
> >> > > ><br>
> >> > > ><br>
> >> > ><br>
> >> > ><br>
> >> ><br>
> >> ><br>
> >> ><br>
> >><br>
> >><br>
> ><br>
> ><br>
> > --<br>
> > Hao Zhang<br>
> > Dept. of Applid Mathematics and Statistics,<br>
> > Stony Brook University,<br>
> > Stony Brook, New York, 11790<br>
> ><br>
><br>
><br>
><br>
><br>
<br>
</div></div></blockquote></div><br><br clear="all"><div><br></div>-- <br><div class="gmail_signature" data-smartmail="gmail_signature">Hao Zhang<br>Dept. of Applid Mathematics and Statistics,<br>Stony Brook University, <br>Stony Brook, New York, 11790</div>
</div>