On Wed, Mar 16, 2011 at 8:27 AM, Thomas Witkowski <span dir="ltr"><<a href="mailto:thomas.witkowski@tu-dresden.de">thomas.witkowski@tu-dresden.de</a>></span> wrote:<br><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex;">
Jed Brown wrote:<div><div></div><div class="h5"><br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
On Wed, Mar 16, 2011 at 07:37, Thomas Witkowski <<a href="mailto:thomas.witkowski@tu-dresden.de" target="_blank">thomas.witkowski@tu-dresden.de</a> <mailto:<a href="mailto:thomas.witkowski@tu-dresden.de" target="_blank">thomas.witkowski@tu-dresden.de</a>>> wrote:<br>

<br>
    Thanks for explanations! It works fine in my code. But I have two<br>
    questions about it, maybe you can help me with them:<br>
    - To the first, is the LU factorization on block A_00 done only once?<br>
<br>
<br>
Yes, one way to confirm this is to run with -log_summary and check MatLUFactor{Sym,Num}.<br>
 <br>
    - I have run the code with -fieldsplit_1_ksp_monitor to get some<br>
    more information about the internal solves. I expected to get<br>
    information about one iterative solver (for solving the Schur<br>
    complement system), but I got three, all of them need around 20<br>
    iterations for my example. Could you explain to me what is<br>
    actually solved there?<br>
<br>
<br>
I'm going to guess that you still have an outer KSP that (in the global norm, rather than the partitioned norm used inside of splits) has a tighter tolerance, therefore it takes a few outer iterations. If you use loose inner tolerances then the preconditioner becomes nonlinear and you'll need to use FGMRES for the outer. When in doubt, run with -ksp_view and show us the results if you don't understand. Additionally, monitoring inner solves separately can be useful, e.g. -fieldsplit_0_ksp_converged_reason -fieldsplit_1_ksp_monitor -ksp_monitor_true_residual.<br>

</blockquote></div></div>
Okay, I run my code with the options "-pc_fieldsplit_type schur -fieldsplit_interior_ksp_type preonly -fieldsplit_interior_pc_type bjacobi -fieldsplit_interior_sub_pc_type lu -fieldsplit_boundary_ksp_monitor -ksp_monitor_true_residual -fieldsplit_interior_ksp_converged_reason". The splits are named "interior" and "boundary". The ksp output is as follows:<br>

<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   Residual norms for fieldsplit_boundary_ solve.<br>
   0 KSP Residual norm 1.790059331071e-04<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   1 KSP Residual norm 1.237356212928e-04<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   2 KSP Residual norm 7.952220245101e-05<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   3 KSP Residual norm 3.502858665398e-05<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   4 KSP Residual norm 1.601085190129e-05<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   5 KSP Residual norm 8.491161243057e-06<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   6 KSP Residual norm 4.778227395989e-06<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   7 KSP Residual norm 2.571919352633e-06<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   8 KSP Residual norm 1.353979940120e-06<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   9 KSP Residual norm 7.408377337496e-07<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  10 KSP Residual norm 3.810694345834e-07<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  11 KSP Residual norm 1.955889542056e-07<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  12 KSP Residual norm 9.938906113920e-08<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  13 KSP Residual norm 4.893445675773e-08<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  14 KSP Residual norm 2.395128458062e-08<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  15 KSP Residual norm <a href="tel:1.2464425896" target="_blank"></a><a href="tel:1.2464425896" target="_blank">1.2464425896</a>57e-08<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  16 KSP Residual norm 6.316454504022e-09<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  17 KSP Residual norm 3.088668836241e-09<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  18 KSP Residual norm 1.593454221996e-09<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
[0]  Petsc-Iteration 0: 0.574504<br>
 0 KSP preconditioned resid norm 5.745043818120e-01 true resid norm 1.584249437360e-01 ||r(i)||/||b|| 1.000000000000e+00<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   Residual norms for fieldsplit_boundary_ solve.<br>
   0 KSP Residual norm 1.790059331000e-04<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   1 KSP Residual norm 1.237356237744e-04<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   2 KSP Residual norm 7.952220078415e-05<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   3 KSP Residual norm 3.502859285561e-05<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   4 KSP Residual norm 1.601086485810e-05<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   5 KSP Residual norm 8.491169384185e-06<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   6 KSP Residual norm 4.778229157872e-06<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   7 KSP Residual norm 2.571917112191e-06<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   8 KSP Residual norm 1.353977280183e-06<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   9 KSP Residual norm 7.408352317360e-07<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  10 KSP Residual norm 3.810710583336e-07<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  11 KSP Residual norm 1.955898169394e-07<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  12 KSP Residual norm 9.938892788465e-08<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  13 KSP Residual norm 4.893428546840e-08<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  14 KSP Residual norm 2.395120857135e-08<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  15 KSP Residual norm <a href="tel:1.2464367927" target="_blank"></a><a href="tel:1.2464367927" target="_blank">1.2464367927</a>84e-08<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  16 KSP Residual norm 6.316409779118e-09<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  17 KSP Residual norm 3.088649355374e-09<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  18 KSP Residual norm 1.593449602302e-09<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   Residual norms for fieldsplit_boundary_ solve.<br>
   0 KSP Residual norm 1.593449603155e-09<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   1 KSP Residual norm 1.011857676662e-09<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   2 KSP Residual norm 5.660892669788e-10<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   3 KSP Residual norm 3.046799343903e-10<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   4 KSP Residual norm <a href="tel:1.6004713993" target="_blank"></a><a href="tel:1.6004713993" target="_blank">1.6004713993</a>29e-10<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   5 KSP Residual norm 8.083216601016e-11<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   6 KSP Residual norm 4.308671648345e-11<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   7 KSP Residual norm 2.381959817139e-11<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   8 KSP Residual norm 1.264839790114e-11<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
   9 KSP Residual norm 6.435098853282e-12<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  10 KSP Residual norm 3.184769579797e-12<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  11 KSP Residual norm <a href="tel:1.5022019430" target="_blank"></a><a href="tel:1.5022019430" target="_blank">1.5022019430</a>16e-12<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  12 KSP Residual norm 7.099486208425e-13<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  13 KSP Residual norm 3.443222176388e-13<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  14 KSP Residual norm <a href="tel:1.6478434989" target="_blank"></a><a href="tel:1.6478434989" target="_blank">1.6478434989</a>12e-13<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  15 KSP Residual norm 8.208508173926e-14<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  16 KSP Residual norm 4.376604355287e-14<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  17 KSP Residual norm 2.596069152755e-14<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
  18 KSP Residual norm 1.335744434252e-14<br>
   Linear solve converged due to CONVERGED_ITS iterations 1<br>
 1 KSP preconditioned resid norm 2.608069232839e-13 true resid norm 1.449869994655e-13 ||r(i)||/||b|| 9.151778504469e-13<br>
<br>
I have no idea how to interpret this output! Could you help me with it?</blockquote><div><br></div><div>Get rid of -fieldsplit_interior_ksp_converged_reason. It is confusing things. Then you will see</div><div>the outer iteration and the inner boundary iteration which is indented.</div>
<div><br></div><div>   Matt</div><meta charset="utf-8"><div> </div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex;"><font color="#888888"><br>
Thomas<br>
</font></blockquote></div><br><br clear="all"><br>-- <br>What most experimenters take for granted before they begin their experiments is infinitely more interesting than any results to which their experiments lead.<br>-- Norbert Wiener<br>