You really have to give us the log summary output. None of the relevant<br>numbers are in your summary.<br><br>&nbsp;Thanks,<br><br>&nbsp;&nbsp; Matt<br><br><div><span class="gmail_quote">On 2/9/07, <b class="gmail_sendername">Shi Jin</b>
 &lt;<a href="mailto:jinzishuai@yahoo.com">jinzishuai@yahoo.com</a>&gt; wrote:</span><blockquote class="gmail_quote" style="border-left: 1px solid rgb(204, 204, 204); margin: 0pt 0pt 0pt 0.8ex; padding-left: 1ex;">Dear Barry,
<br><br>Thank you.<br>I actually have done the staging already.<br>I summarized the timing of the runs in google online<br>spreadsheets. I have two runs.<br>1. with 400,000 finite elements:<br><a href="http://spreadsheets.google.com/pub?key=pZHoqlL60quZeDZlucTjEIA">
http://spreadsheets.google.com/pub?key=pZHoqlL60quZeDZlucTjEIA</a><br>2. with 1,600,000 finite elements:<br><a href="http://spreadsheets.google.com/pub?key=pZHoqlL60quZcCVLAqmzqQQ">http://spreadsheets.google.com/pub?key=pZHoqlL60quZcCVLAqmzqQQ
</a><br><br>If you can take a look at them and give me some<br>advice, I will be deeply grateful.<br><br>Shi<br>--- Barry Smith &lt;<a href="mailto:bsmith@mcs.anl.gov">bsmith@mcs.anl.gov</a>&gt; wrote:<br><br>&gt;<br>&gt;&nbsp;&nbsp; NO, NO, don&#39;t spend time stripping your code!
<br>&gt; Unproductive<br>&gt;<br>&gt;&nbsp;&nbsp; See the manul pages for PetscLogStageRegister(),<br>&gt; PetscLogStagePush() and<br>&gt; PetscLogStagePop(). All you need to do is maintain a<br>&gt; seperate stage for each<br>&gt; of your KSPSolves; in your case you&#39;ll create 3
<br>&gt; stages.<br>&gt;<br>&gt;&nbsp;&nbsp;&nbsp;&nbsp;Barry<br>&gt;<br>&gt; On Fri, 9 Feb 2007, Shi Jin wrote:<br>&gt;<br>&gt; &gt; Thank you.<br>&gt; &gt; But my code has 10 calls to KSPSolve of three<br>&gt; &gt; different linear systems at each time update.
<br>&gt; Should I<br>&gt; &gt; strip it down to a single KSPSolve so that it is<br>&gt; &gt; easier to analysis? I might have the code dump the<br>&gt; &gt; Matrix and vector and write another code to read<br>&gt; them<br>
&gt; &gt; into and call KSPSolve. I don&#39;t know whether this<br>&gt; is<br>&gt; &gt; worth doing&nbsp;&nbsp;or should I just send in the messy<br>&gt; log<br>&gt; &gt; file of the whole run.<br>&gt; &gt; Thanks for any advice.<br>
&gt; &gt;<br>&gt; &gt; Shi<br>&gt; &gt;<br>&gt; &gt; --- Barry Smith &lt;<a href="mailto:bsmith@mcs.anl.gov">bsmith@mcs.anl.gov</a>&gt; wrote:<br>&gt; &gt;<br>&gt; &gt; &gt;<br>&gt; &gt; &gt;&nbsp;&nbsp; Shi,<br>&gt; &gt; &gt;<br>&gt; &gt; &gt;&nbsp;&nbsp;&nbsp;&nbsp;There is never a better test problem then
<br>&gt; your<br>&gt; &gt; &gt; actual problem.<br>&gt; &gt; &gt; Send the results from running on 1, 4, and 8<br>&gt; &gt; &gt; processes with the options<br>&gt; &gt; &gt; -log_summary -ksp_view (use the optimized<br>&gt; version of
<br>&gt; &gt; &gt; PETSc (running<br>&gt; &gt; &gt; config/configure.py --with-debugging=0))<br>&gt; &gt; &gt;<br>&gt; &gt; &gt;&nbsp;&nbsp; Barry<br>&gt; &gt; &gt;<br>&gt; &gt; &gt;<br>&gt; &gt; &gt; On Fri, 9 Feb 2007, Shi Jin wrote:
<br>&gt; &gt; &gt;<br>&gt; &gt; &gt; &gt; Hi there,<br>&gt; &gt; &gt; &gt;<br>&gt; &gt; &gt; &gt; I am tuning our 3D FEM CFD code written with<br>&gt; &gt; &gt; PETSc.<br>&gt; &gt; &gt; &gt; The code doesn&#39;t scale very well. For example,
<br>&gt; &gt; &gt; with 8<br>&gt; &gt; &gt; &gt; processes on a linux cluster, the speedup we<br>&gt; &gt; &gt; achieve<br>&gt; &gt; &gt; &gt; with a fairly large problem size(million of<br>&gt; &gt; &gt; elements)<br>&gt; &gt; &gt; &gt; is only 3 to 4 using the Congugate gradient
<br>&gt; &gt; &gt; solver. We<br>&gt; &gt; &gt; &gt; can achieve a speed up of a 6.5 using a GMRes<br>&gt; &gt; &gt; solver<br>&gt; &gt; &gt; &gt; but the wall clock time of a GMRes is longer<br>&gt; than<br>&gt; &gt; &gt; a CG
<br>&gt; &gt; &gt; &gt; solver which indicates that CG is the faster<br>&gt; &gt; &gt; solver<br>&gt; &gt; &gt; &gt; and it scales not as good as GMRes. Is this<br>&gt; &gt; &gt; generally<br>&gt; &gt; &gt; &gt; true?<br>
&gt; &gt; &gt; &gt;<br>&gt; &gt; &gt; &gt; I then went to the examples and find a 2D<br>&gt; example<br>&gt; &gt; &gt; of<br>&gt; &gt; &gt; &gt; KSPSolve (ex2.c). I let the code ran with a<br>&gt; &gt; &gt; 1000x1000<br>&gt; &gt; &gt; &gt; mesh and get a linear scaling of the CG solver
<br>&gt; and<br>&gt; &gt; &gt; a<br>&gt; &gt; &gt; &gt; super linear scaling of the GMRes. These are<br>&gt; both<br>&gt; &gt; &gt; much<br>&gt; &gt; &gt; &gt; better than our code. However, I think the 2D<br>&gt; &gt; &gt; nature
<br>&gt; &gt; &gt; &gt; of the sample problem might help the scaling<br>&gt; of<br>&gt; &gt; &gt; the<br>&gt; &gt; &gt; &gt; code. So I would like to try some 3D example<br>&gt; using<br>&gt; &gt; &gt; the<br>&gt; &gt; &gt; &gt; KSPSolve. Unfortunately, I couldn&#39;t find such
<br>&gt; an<br>&gt; &gt; &gt; &gt; example either in the<br>&gt; &gt; &gt; src/ksp/ksp/examples/tutorials<br>&gt; &gt; &gt; &gt; directory or by google search. There are a<br>&gt; couple<br>&gt; &gt; &gt; of<br>&gt; &gt; &gt; &gt; 3D examples in the
<br>&gt; src/ksp/ksp/examples/tutorials<br>&gt; &gt; &gt; but<br>&gt; &gt; &gt; &gt; they&nbsp;&nbsp; are about the SNES not KSPSolve. If<br>&gt; anyone<br>&gt; &gt; &gt; can<br>&gt; &gt; &gt; &gt; provide me with such an example, I would
<br>&gt; really<br>&gt; &gt; &gt; &gt; appreciate it.<br>&gt; &gt; &gt; &gt; Thanks a lot.<br>&gt; &gt; &gt; &gt;<br>&gt; &gt; &gt; &gt; Shi<br>&gt; &gt; &gt; &gt;<br>&gt; &gt; &gt; &gt;<br>&gt; &gt; &gt; &gt;<br>&gt; &gt; &gt; &gt;
<br>&gt; &gt; &gt;<br>&gt; &gt;<br>&gt;<br>____________________________________________________________________________________<br>&gt; &gt; &gt; &gt; Finding fabulous fares is fun.<br>&gt; &gt; &gt; &gt; Let Yahoo! FareChase search your favorite
<br>&gt; travel<br>&gt; &gt; &gt; sites to find flight and hotel bargains.<br>&gt; &gt; &gt; &gt;<br>&gt; <a href="http://farechase.yahoo.com/promo-generic-14795097">http://farechase.yahoo.com/promo-generic-14795097</a><br>
&gt; &gt; &gt; &gt;<br>&gt; &gt; &gt; &gt;<br>&gt; &gt; &gt;<br>&gt; &gt; &gt;<br>&gt; &gt;<br>&gt; &gt;<br>&gt; &gt;<br>&gt; &gt;<br>&gt; &gt;<br>&gt;<br>____________________________________________________________________________________
<br>&gt; &gt; 8:00? 8:25? 8:40? Find a flick in no time<br>&gt; &gt; with the Yahoo! Search movie showtime shortcut.<br>&gt; &gt; <a href="http://tools.search.yahoo.com/shortcuts/#news">http://tools.search.yahoo.com/shortcuts/#news
</a><br>&gt; &gt;<br>&gt; &gt;<br>&gt;<br>&gt;<br><br><br><br><br>____________________________________________________________________________________<br>Looking for earth-friendly autos?<br>Browse Top Cars by &quot;Green Rating&quot; at Yahoo! Autos&#39; Green Center.
<br><a href="http://autos.yahoo.com/green_center/">http://autos.yahoo.com/green_center/</a><br><br></blockquote></div><br><br clear="all"><br>-- <br>One trouble is that despite this system, anyone who reads journals widely
<br>and critically is forced to realize that there are scarcely any bars to eventual<br>publication. There seems to be no study too fragmented, no hypothesis too<br>trivial, no literature citation too biased or too egotistical, no design too
<br>warped, no methodology too bungled, no presentation of results too<br>inaccurate, too obscure, and too contradictory, no analysis too self-serving,<br>no argument too circular, no conclusions too trifling or too unjustified, and
<br>no grammar and syntax too offensive for a paper to end up in print. -- Drummond Rennie