<html><head><style type="text/css"><!-- DIV {margin:0px;} --></style></head><body><div style="font-family:times new roman, new york, times, serif;font-size:12pt"><DIV>Sorry can't do that.&nbsp; The benchmark involves 2 things.&nbsp; One from my customer which</DIV>
<DIV>I am not allowed to distribute.&nbsp;&nbsp;&nbsp; I may be able to get a limited license of my product</DIV>
<DIV>for you to try, but I definately can not send source code.</DIV>
<DIV>&nbsp;</DIV>
<DIV>tan</DIV>
<DIV>&nbsp;</DIV>
<DIV style="FONT-FAMILY: times new roman, new york, times, serif; FONT-SIZE: 12pt"><BR>
<DIV style="FONT-FAMILY: arial, helvetica, sans-serif; FONT-SIZE: 13px"><FONT size=2 face=Tahoma>
<HR SIZE=1>
<B><SPAN style="FONT-WEIGHT: bold">From:</SPAN></B> Darius Buntinas &lt;buntinas@mcs.anl.gov&gt;<BR><B><SPAN style="FONT-WEIGHT: bold">To:</SPAN></B> mpich-discuss@mcs.anl.gov<BR><B><SPAN style="FONT-WEIGHT: bold">Sent:</SPAN></B> Monday, July 13, 2009 10:54:50 AM<BR><B><SPAN style="FONT-WEIGHT: bold">Subject:</SPAN></B> Re: [mpich-discuss] version 1.1 strange behavior : all processes become idle for extensive period<BR></FONT><BR><BR>Can you send us the benchmark you're using?&nbsp; This will help us figure<BR>out what's going on.<BR><BR>Thanks,<BR>-d<BR><BR>On 07/13/2009 12:36 PM, chong tan wrote:<BR>&gt; <BR>&gt; thanks darius,<BR>&gt;&nbsp; <BR>&gt; When I did the comparison (or benchmarking), I have 2 identical source<BR>&gt; trees.&nbsp; Everything<BR>&gt; were recompiled group up and compiled/linked accordinglyto the version<BR>&gt; of MPICH2<BR>&gt; to be used.<BR>&gt;&nbsp; <BR>&gt; I have many tests, this is the only one showing this behavior,
 and is<BR>&gt; predictably repeatable.<BR>&gt; most of my tests are showing comaptible performance and many do better<BR>&gt; with 1.1.<BR>&gt;&nbsp; <BR>&gt; The 'weirdest' thing is the ~1 minute span where there is no activity on<BR>&gt; the box at all, zipo<BR>&gt; activity except 'top', with machine load at around 0.12.&nbsp; I don't know<BR>&gt; how to explain this<BR>&gt; 'behavior', and I am extremely curious if anyone can explain this.<BR>&gt;&nbsp; <BR>&gt; I can't repeat this on AMD boxes as I don't have one that has only 32G<BR>&gt; of memory.&nbsp; I can't<BR>&gt; repeat this on Niagara box as thread multiple won't build.<BR>&gt;&nbsp; <BR>&gt; I will try to rebuild 1.1 without thread-multiple.&nbsp; Will keep you posted.<BR>&gt;&nbsp; <BR>&gt; Meanwhile, if anyone has any speculations on this, please bring them up.<BR>&gt;&nbsp; <BR>&gt; thanks<BR>&gt; tan<BR>&gt;&nbsp; <BR>&gt;
 ------------------------------------------------------------------------<BR>&gt; *From:* Darius Buntinas &lt;<A href="mailto:buntinas@mcs.anl.gov" ymailto="mailto:buntinas@mcs.anl.gov">buntinas@mcs.anl.gov</A>&gt;<BR>&gt; *To:* <A href="mailto:mpich-discuss@mcs.anl.gov" ymailto="mailto:mpich-discuss@mcs.anl.gov">mpich-discuss@mcs.anl.gov</A><BR>&gt; *Sent:* Monday, July 13, 2009 8:30:19 AM<BR>&gt; *Subject:* Re: [mpich-discuss] version 1.1 strange behavior : all<BR>&gt; processes become idle for extensive period<BR>&gt; <BR>&gt; Tan,<BR>&gt; <BR>&gt; Did you just re-link the applications, or did you recompile them?<BR>&gt; Version 1.1 is most likely not binary compatible with 1.0.6, so you<BR>&gt; really need to recompile the application.<BR>&gt; <BR>&gt; Next, don't use the --enable-threads=multiple flag when configuring<BR>&gt; mpich2.&nbsp; By default, mpich2 supports all thread levels and will select<BR>&gt; the thread level at run time (depending
 on the parameters passed to<BR>&gt; MPI_Init_thread).&nbsp; By allowing the thread level to be selected<BR>&gt; automatically at run time, you'll avoid the overhead of thread safety<BR>&gt; when it's not needed, allowing your non-threaded applications to run faster.<BR>&gt; <BR>&gt; Let us know if either of these fixes the problem, especially if just<BR>&gt; removing the --enable-threads option fixes this.<BR>&gt; <BR>&gt; Thanks,<BR>&gt; -d<BR>&gt; <BR>&gt; On 07/10/2009 06:19 PM, chong tan wrote:<BR>&gt;&gt; I am seeing this funny situation which I did not see on 1.0.6 and<BR>&gt;&gt; 1.0.8.&nbsp; Some background:<BR>&gt;&gt; <BR>&gt;&gt; machine : INTEL 4Xcore 2<BR>&gt;&gt; <BR>&gt;&gt; running mpiexec -n 4<BR>&gt;&gt; <BR>&gt;&gt; machine has 32G of mem.<BR>&gt;&gt; <BR>&gt;&gt; when my application runs,&nbsp; almost all memory are used.&nbsp; However, there<BR>&gt;&gt; is no swapping.<BR>&gt;&gt; I have exclusive use of the machine, so contention
 is not an issue.<BR>&gt;&gt; <BR>&gt;&gt; issue #1 :&nbsp; processes take extra long to be initialized, compared to 1.0.6<BR>&gt;&gt; issue #2 : during the run, at time all of them will become idle at the<BR>&gt;&gt; same time, for almost a<BR>&gt;&gt;&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; minute.&nbsp; We never observed this with 1.0.6<BR>&gt;&gt; <BR>&gt;&gt; <BR>&gt;&gt; The codes are the same, only linked with different versions of MPICH2.<BR>&gt;&gt; <BR>&gt;&gt; MPICH2 was built with --enable-threads=multiple for 1.1.&nbsp; without for<BR>&gt;&gt; 1.0.6 or 1.0.8<BR>&gt;&gt; <BR>&gt;&gt; MPI calls are all in the main application thread.&nbsp; I used only 4 MPI<BR>&gt;&gt; functions :<BR>&gt;&gt; init(), Send(), Recv() and Barrier().<BR>&gt;&gt; <BR>&gt;&gt; <BR>&gt;&gt; <BR>&gt;&gt; any suggestion ?<BR>&gt;&gt; <BR>&gt;&gt; thanks<BR>&gt;&gt; tan<BR>&gt;&gt;<BR>&gt;&gt; <BR>&gt;&gt;<BR>&gt;&gt;&nbsp; &nbsp;
 <BR>&gt;&gt;<BR>&gt;&gt;<BR>&gt; <BR></DIV></DIV></div><br>

      </body></html>