<html><head></head><body style="word-wrap: break-word; -webkit-nbsp-mode: space; -webkit-line-break: after-white-space; ">are there any tricks to doing this across ssh?<div><br></div><div>I've attempted it using the method given, but I can't get it to start in the debugger or to attach the debugger, the program just exits or hangs after telling me the error.</div><div><br></div><div>-Andrew</div><div><br><div><div>On Apr 28, 2012, at 4:45 PM, Matthew Knepley wrote:</div><br class="Apple-interchange-newline"><blockquote type="cite"><div class="gmail_extra">On Sat, Apr 28, 2012 at 6:39 PM, Andrew Spott <span dir="ltr">&lt;<a href="mailto:andrew.spott@gmail.com" target="_blank">andrew.spott@gmail.com</a>&gt;</span> wrote:<br><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
&gt;-start_in-debugger noxterm -debugger_nodes 14<br>
<br>
All my cores are on the same machine, is this supposed to start a debugger on processor 14? or computer 14?<br></blockquote><div><br></div><div>Neither. This spawns a gdb process on the same node as the process with MPI rank 14. Then attaches gdb</div>
<div>to process 14.</div><div><br></div><div>&nbsp; &nbsp; Matt</div><div>&nbsp;</div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
I don't think I have x11 setup properly for the compute nodes, so x11 isn't really an option.<br>
<br>
Thanks for the help.<br>
<br>
-Andrew<br>
<br>
<br>
On Apr 27, 2012, at 7:26 PM, Satish Balay wrote:<br>
<br>
&gt; On Fri, 27 Apr 2012, Andrew Spott wrote:<br>
&gt;<br>
&gt;&gt; I'm honestly stumped.<br>
&gt;&gt;<br>
&gt;&gt; I have some petsc code that essentially just populates a matrix in parallel, then puts it in a file. &nbsp;All my code that uses floating point computations is checked for NaN's and infinities and it doesn't seem to show up. &nbsp;However, when I run it on more than 4 cores, I get floating point exceptions that kill the program. &nbsp;I tried turning off the exceptions from petsc, but the program still dies from them, just without the petsc error message.<br>

&gt;&gt;<br>
&gt;&gt; I honestly don't know where to go, I suppose I should attach a debugger, but I'm not sure how to do that for multi-processor code.<br>
&gt;<br>
&gt; assuming you have X11 setup properly from compute nodes you can run<br>
&gt; with the extra option '-start_in_debugger'<br>
&gt;<br>
&gt; If X11 is not properly setup - and you'd like to run gdb on one of the<br>
&gt; nodes [say node 14 where you see SEGV] - you can do:<br>
&gt;<br>
&gt; -start_in-debugger noxterm -debugger_nodes 14<br>
&gt;<br>
&gt; Or try valgrind<br>
&gt;<br>
&gt; mpiexec -n 16 valgrind --tool=memcheck -q ./executable<br>
&gt;<br>
&gt;<br>
&gt; For debugging - its best to install with --download-mpich [so that its<br>
&gt; valgrind clean] - and run all mpi stuff on a single machine - [usually<br>
&gt; X11 works well from a single machine.]<br>
&gt;<br>
&gt; Satish<br>
&gt;<br>
&gt;&gt;<br>
&gt;&gt; any ideas? &nbsp;(long error message below):<br>
&gt;&gt;<br>
&gt;&gt; -Andrew<br>
&gt;&gt;<br>
&gt;&gt; [14]PETSC ERROR: ------------------------------------------------------------------------<br>
&gt;&gt; [14]PETSC ERROR: Caught signal number 8 FPE: Floating Point Exception,probably divide by zero<br>
&gt;&gt; [14]PETSC ERROR: Try option -start_in_debugger or -on_error_attach_debugger<br>
&gt;&gt; [14]PETSC ERROR: or see <a href="http://www.mcs.anl.gov/petsc/petsc-as/documentation/faq.html#valgrind[14]PETSC" target="_blank">http://www.mcs.anl.gov/petsc/petsc-as/documentation/faq.html#valgrind[14]PETSC</a> ERROR: or try <a href="http://valgrind.org/" target="_blank">http://valgrind.org</a> on GNU/linux and Apple Mac OS X to find memory corruption errors<br>

&gt;&gt; [14]PETSC ERROR: likely location of problem given in stack below<br>
&gt;&gt; [14]PETSC ERROR: --------------------- &nbsp;Stack Frames ------------------------------------<br>
&gt;&gt; [14]PETSC ERROR: Note: The EXACT line numbers in the stack are not available,<br>
&gt;&gt; [14]PETSC ERROR: &nbsp; &nbsp; &nbsp; INSTEAD the line number of the start of the function<br>
&gt;&gt; [14]PETSC ERROR: &nbsp; &nbsp; &nbsp; is given.<br>
&gt;&gt; [14]PETSC ERROR: --------------------- Error Message ------------------------------------<br>
&gt;&gt; [14]PETSC ERROR: Signal received!<br>
&gt;&gt; [14]PETSC ERROR: ------------------------------------------------------------------------<br>
&gt;&gt; [14]PE[15]PETSC ERROR: ------------------------------------------------------------------------<br>
&gt;&gt; [15]PETSC ERROR: Caught signal number 8 FPE: Floating Point Exception,probably divide by zero<br>
&gt;&gt; [15]PETSC ERROR: Try option -start_in_debugger or -on_error_attach_debugger<br>
&gt;&gt; [15]PETSC ERROR: or see <a href="http://www.mcs.anl.gov/petsc/petsc-as/documentation/faq.html#valgrind[15]PETSC" target="_blank">http://www.mcs.anl.gov/petsc/petsc-as/documentation/faq.html#valgrind[15]PETSC</a> ERROR: or try <a href="http://valgrind.org/" target="_blank">http://valgrind.org</a> on GNU/linux and Apple Mac OS X to find memory corruption errors<br>

&gt;&gt; [15]PETSC ERROR: likely location of problem given in stack below<br>
&gt;&gt; [15]PETSC ERROR: --------------------- &nbsp;Stack Frames ------------------------------------<br>
&gt;&gt; [15]PETSC ERROR: Note: The EXACT line numbers in the stack are not available,<br>
&gt;&gt; [15]PETSC ERROR: &nbsp; &nbsp; &nbsp; INSTEAD the line number of the start of the function<br>
&gt;&gt; [15]PETSC ERROR: &nbsp; &nbsp; &nbsp; is given.<br>
&gt;&gt; [15]PETSC ERROR: --------------------- Error Message ------------------------------------<br>
&gt;&gt; [15]PETSC ERROR: Signal received!<br>
&gt;&gt; [15]PETSC ERROR: ------------------------------------------------------------------------<br>
&gt;&gt; [15]PETSC ERROR: Petsc Release Version 3.2.0, Patch 6, Wed Jan 11 09:28:45 CST 2012<br>
&gt;&gt; [14]PETSC ERROR: See docs/changes/index.html for recent updates.<br>
&gt;&gt; [14]PETSC ERROR: See docs/faq.html for hints about trouble shooting.<br>
&gt;&gt; [14]PETSC ERROR: See docs/index.html for manual pages.<br>
&gt;&gt; [14]PETSC ERROR: ------------------------------------------------------------------------<br>
&gt;&gt; [14]PETSC ERROR: /home/becker/ansp6066/local/bin/finddme on a linux-gnu named <a href="http://photon9.colorado.edu/" target="_blank">photon9.colorado.edu</a> by ansp6066 Fri Apr 27 18:01:55 2012<br>
&gt;&gt; [14]PETSC ERROR: Libraries linked from /home/becker/ansp6066/local/petsc-3.2-p6/lib<br>
&gt;&gt; [14]PETSC ERROR: Configure run at Mon Feb 27 11:17:14 2012<br>
&gt;&gt; [14]PETSC ERROR: Configure options --prefix=/home/becker/ansp6066/local/petsc-3.2-p6 --with-c++-support --with-fortran --with-mpi-dir=/usr/local/mpich2 --with-shared-libraries=0 --with-scalar-type=complex --with-blas-lapack-libs=/central/intel/mkl/lib/em64t/libmkl_core.a --with-clanguage=cxx<br>

&gt;&gt; [14]PETSC ERROR: ------------------------------------------------------------------------<br>
&gt;&gt; [14]TSC ERROR: Petsc Release Version 3.2.0, Patch 6, Wed Jan 11 09:28:45 CST 2012<br>
&gt;&gt; [15]PETSC ERROR: See docs/changes/index.html for recent updates.<br>
&gt;&gt; [15]PETSC ERROR: See docs/faq.html for hints about trouble shooting.<br>
&gt;&gt; [15]PETSC ERROR: See docs/index.html for manual pages.<br>
&gt;&gt; [15]PETSC ERROR: ------------------------------------------------------------------------<br>
&gt;&gt; [15]PETSC ERROR: /home/becker/ansp6066/local/bin/finddme on a linux-gnu named <a href="http://photon9.colorado.edu/" target="_blank">photon9.colorado.edu</a> by ansp6066 Fri Apr 27 18:01:55 2012<br>
&gt;&gt; [15]PETSC ERROR: Libraries linked from /home/becker/ansp6066/local/petsc-3.2-p6/lib<br>
&gt;&gt; [15]PETSC ERROR: Configure run at Mon Feb 27 11:17:14 2012<br>
&gt;&gt; [15]PETSC ERROR: Configure options --prefix=/home/becker/ansp6066/local/petsc-3.2-p6 --with-c++-support --with-fortran --with-mpi-dir=/usr/local/mpich2 --with-shared-libraries=0 --with-scalar-type=complex --with-blas-lapack-libs=/central/intel/mkl/lib/em64t/libmkl_core.a --with-clanguage=cxx<br>

&gt;&gt; [15]PETSC ERROR: ------------------------------------------------------------------------<br>
&gt;&gt; [15]PETSC ERROR: User provided function() line 0 in unknown directory unknown file<br>
&gt;&gt; application called MPI_Abort(MPI_COMM_WORLD, 59) - process 14PETSC ERROR: User provided function() line 0 in unknown directory unknown file<br>
&gt;&gt; application called MPI_Abort(MPI_COMM_WORLD, 59) - process 15[0]0:Return code = 0, signaled with Interrupt<br>
&gt;<br>
<br>
</blockquote></div><br><br clear="all"><div><br></div>-- <br>What most experimenters take for granted before they begin their experiments is infinitely more interesting than any results to which their experiments lead.<br>
-- Norbert Wiener<br>
</div>
</blockquote></div><br></div></body></html>