<div dir="ltr"><div dir="ltr">On Tue, Sep 19, 2023 at 7:04 AM Thuc Bui <<a href="mailto:bui@calcreek.com">bui@calcreek.com</a>> wrote:<br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div class="msg-847775613682573886"><div lang="EN-US"><div class="m_-847775613682573886WordSection1"><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">Hi Barry,<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">Visual Studio 2022 is the problem! The code linked to Petsc 3.18.6 built with VS 2022 also crashes at the same place. The same errors are shown below. I don’t remember for sure, but I don’t think I was able to configure Petsc 3.19.4 with VS 2019. However, I will still try that next.</span></p></div></div></div></blockquote><div><br></div><div>It is so easy to hate VS. This suggests that VS is secretly linking to another BLAS, perhaps with different calling semantics.</div><div><br></div><div>  Thanks,</div><div><br></div><div>     Matt</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div class="msg-847775613682573886"><div lang="EN-US"><div class="m_-847775613682573886WordSection1"><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">Thanks for your help,<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">Thuc<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">[0]PETSC ERROR: ------------------------------------------------------------------------<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">[0]PETSC ERROR: Caught signal number 11 SEGV: Segmentation Violation, probably memory access out of range<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">[0]PETSC ERROR: Try option -start_in_debugger or -on_error_attach_debugger<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">[0]PETSC ERROR: or see <a href="https://petsc.org/release/faq/#valgrind" target="_blank">https://petsc.org/release/faq/#valgrind</a> and <a href="https://petsc.org/release/faq/" target="_blank">https://petsc.org/release/faq/</a><u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">[0]PETSC ERROR: ---------------------  Stack Frames ------------------------------------<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">[0]PETSC ERROR: The line numbers in the error traceback are not always exact.<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">[0]PETSC ERROR: #1 BLASdot()<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">[0]PETSC ERROR: #2 VecNorm_Seq() at D:\Users\bbwannabe\Documents\Petsc\petsc-3.18.6\src\vec\vec\impls\seq\bvec2.c:216<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">[0]PETSC ERROR: #3 VecNorm() at D:\Users\bbwannabe\Documents\Petsc\petsc-3.18.6\src\vec\vec\interface\rvector.c:237<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">[0]PETSC ERROR: #4 VecNormalize() at D:\Users\bbwannabe\Documents\Petsc\petsc-3.18.6\src\vec\vec\interface\rvector.c:318<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">[0]PETSC ERROR: #5 KSPGMRESCycle() at D:\Users\bbwannabe\Documents\Petsc\petsc-3.18.6\src\ksp\ksp\impls\gmres\gmres.c:111<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">[0]PETSC ERROR: #6 KSPSolve_GMRES() at D:\Users\bbwannabe\Documents\Petsc\petsc-3.18.6\src\ksp\ksp\impls\gmres\gmres.c:228<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">[0]PETSC ERROR: #7 KSPSolve_Private() at D:\Users\bbwannabe\Documents\Petsc\petsc-3.18.6\src\ksp\ksp\interface\itfunc.c:899<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">[0]PETSC ERROR: #8 KSPSolve() at D:\Users\bbwannabe\Documents\Petsc\petsc-3.18.6\src\ksp\ksp\interface\itfunc.c:1071<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">job aborted:<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">[ranks] message<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">[0] application aborted<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">aborting MPI_COMM_WORLD (comm=0x44000000), error 59, comm rank 0<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)"><u></u> <u></u></span></p><div><div style="border-right:none;border-bottom:none;border-left:none;border-top:1pt solid rgb(181,196,223);padding:3pt 0in 0in"><p class="MsoNormal"><b><span style="font-size:10pt;font-family:Tahoma,"sans-serif"">From:</span></b><span style="font-size:10pt;font-family:Tahoma,"sans-serif""> petsc-users [mailto:<a href="mailto:petsc-users-bounces@mcs.anl.gov" target="_blank">petsc-users-bounces@mcs.anl.gov</a>] <b>On Behalf Of </b>Thuc Bui<br><b>Sent:</b> Monday, September 18, 2023 4:24 PM<br><b>To:</b> 'Barry Smith'<br><b>Cc:</b> 'PETSc users list'<br><b>Subject:</b> Re: [petsc-users] Problem with BLASdot in 3.19.4<u></u><u></u></span></p></div></div><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">Thanks a lot Barry, for getting back to me. Will do what you have suggested, and get back with the results.<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">Best regards,<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)">Thuc<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif";color:rgb(31,73,125)"><u></u> <u></u></span></p><div><div style="border-right:none;border-bottom:none;border-left:none;border-top:1pt solid rgb(181,196,223);padding:3pt 0in 0in"><p class="MsoNormal"><b><span style="font-size:10pt;font-family:Tahoma,"sans-serif"">From:</span></b><span style="font-size:10pt;font-family:Tahoma,"sans-serif""> Barry Smith [mailto:<a href="mailto:bsmith@petsc.dev" target="_blank">bsmith@petsc.dev</a>] <br><b>Sent:</b> Monday, September 18, 2023 3:43 PM<br><b>To:</b> Thuc Bui<br><b>Cc:</b> PETSc users list<br><b>Subject:</b> Re: [petsc-users] Problem with BLASdot in 3.19.4<u></u><u></u></span></p></div></div><p class="MsoNormal"><u></u> <u></u></p><div><p class="MsoNormal"><u></u> <u></u></p></div><p class="MsoNormal">  Ok, two things are being changed at the same time: the version  of PETSc and the version of Visual Studio. <u></u><u></u></p><div><p class="MsoNormal"><u></u> <u></u></p></div><div><p class="MsoNormal">  Could you please try with the new Visual Studio version but the same older PETSc version? If that works could you try with the old Visual Studio version but the new PETSc version? <u></u><u></u></p></div><div><p class="MsoNormal"><u></u> <u></u></p></div><div><p class="MsoNormal">  Barry<u></u><u></u></p></div><div><p class="MsoNormal"><u></u> <u></u></p></div><div><p class="MsoNormal"><u></u> <u></u></p><div><p class="MsoNormal" style="margin-bottom:12pt"><u></u> <u></u></p><div><p class="MsoNormal">On Sep 18, 2023, at 6:26 PM, Thuc Bui <<a href="mailto:bui@calcreek.com" target="_blank">bui@calcreek.com</a>> wrote:<u></u><u></u></p></div><p class="MsoNormal"><u></u> <u></u></p><div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">Dear Petsc users and experts,<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif""> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">If someone can direct me how to track this bug, I would really appreciate it.<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif""> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">The Petsc DLL library version 3.19.4 was built on Windows 10 with Visual Studio 2022, and with Microsoft MPI 10.1.2 and Intel MKL 2020.3.279. The same code works fine with Petsc 3.18.6 using the same versions of MS MPI and Intel MKL, and built with Visual Studio 2019.<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif""> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">When my code calls PetscCall(KSPSolve(...)), it gets to PetscCall(KSPGMRESCycle(...)), PetscCall(VecNormalize(VEC_VV(0), &res)), PetscCall(VecNorm(x, NORM_2, &norm)) and then crashes in VecNorm_Seq() at:<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif""> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">                PetscCallBLAS("BLASdot", ztmp[type == NORM_1_AND_2] = PetscSqrtReal(PetscRealPart(BLASdot_(&bn, xx, &one, xx, &one))));<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif""> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">I tried to step into BLASdot_, but was unable to. I assume BLASdot_ belong to Intel MKL, and its library does not contain debug information. After the code exits, the errors are shown below the hash line.<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif""> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">Should I install the latest Intel MKL to work with Petsc 3.19.4?<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif""> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">Many thanks in advance for your help,<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">Thuc Bui<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">Senior R&D Engineer<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">Calabazas Creek Research, Inc<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">(650) 948-5361<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif""> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif""> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">###############################################<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif""> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">[0]PETSC ERROR: ------------------------------------------------------------------------<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">[0]PETSC ERROR: Caught signal number 11 SEGV: Segmentation Violation, probably memory access out of range<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">[0]PETSC ERROR: Try option -start_in_debugger or -on_error_attach_debugger<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">[0]PETSC ERROR: or see<span class="m_-847775613682573886apple-converted-space"> </span><a href="https://petsc.org/release/faq/#valgrind" target="_blank"><span style="color:purple">https://petsc.org/release/faq/#valgrind</span></a><span class="m_-847775613682573886apple-converted-space"> </span>and<span class="m_-847775613682573886apple-converted-space"> </span><a href="https://petsc.org/release/faq/" target="_blank"><span style="color:purple">https://petsc.org/release/faq/</span></a><u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">[0]PETSC ERROR: ---------------------  Stack Frames ------------------------------------<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">[0]PETSC ERROR: The line numbers in the error traceback are not always exact.<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">[0]PETSC ERROR: #1 BLASdot()<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">[0]PETSC ERROR: #2 VecNorm_Seq() at D:\Users\bbwannabe\Documents\Petsc\latest\src\vec\vec\impls\seq\bvec2.c:213<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">[0]PETSC ERROR: #3 VecNorm() at D:\Users\bbwannabe\Documents\Petsc\latest\src\vec\vec\interface\rvector.c:237<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">[0]PETSC ERROR: #4 VecNormalize() at D:\Users\bbwannabe\Documents\Petsc\latest\src\vec\vec\interface\rvector.c:318<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">[0]PETSC ERROR: #5 KSPGMRESCycle() at D:\Users\bbwannabe\Documents\Petsc\latest\src\ksp\ksp\impls\gmres\gmres.c:110<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">[0]PETSC ERROR: #6 KSPSolve_GMRES() at D:\Users\bbwannabe\Documents\Petsc\latest\src\ksp\ksp\impls\gmres\gmres.c:227<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">[0]PETSC ERROR: #7 KSPSolve_Private() at D:\Users\bbwannabe\Documents\Petsc\latest\src\ksp\ksp\interface\itfunc.c:898<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">[0]PETSC ERROR: #8 KSPSolve() at D:\Users\bbwannabe\Documents\Petsc\latest\src\ksp\ksp\interface\itfunc.c:1070<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif""> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">job aborted:<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">[ranks] message<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif""> <u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">[0] application aborted<u></u><u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:11pt;font-family:Calibri,"sans-serif"">aborting MPI_COMM_WORLD (comm=0x44000000), error 59, comm rank 0<u></u><u></u></span></p></div></div></div><p class="MsoNormal"><u></u> <u></u></p></div></div></div></div></blockquote></div><br clear="all"><div><br></div><span class="gmail_signature_prefix">-- </span><br><div dir="ltr" class="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div>What most experimenters take for granted before they begin their experiments is infinitely more interesting than any results to which their experiments lead.<br>-- Norbert Wiener</div><div><br></div><div><a href="http://www.cse.buffalo.edu/~knepley/" target="_blank">https://www.cse.buffalo.edu/~knepley/</a><br></div></div></div></div></div></div></div></div>