<div dir="ltr">Hi PETSc,<div><br></div><div>I have a nonlinear 3D problem for a set of uncoupled 2D slabs. (Which I ultimately want to couple once this problem is solved).</div><div><br></div><div>When I solve the inner linear problem for each of these 2D slabs individually (using KSPGMRES) the convergence of the outer nonlinear problem is good. However when I solve the inner linear problem as a single 3D problem (with no coupling between the 2D slabs, so the matrix is effectively a set of uncoupled blocks, one for each 2D slab) the outer nonlinear convergence degrades dramatically.</div><div><br></div><div>Note that I am not using SNES, just my own quasi-Newton approach for the outer nonlinear problem.</div><div><br></div><div>I suspect that the way to recover the convergence for the 3D coupled problem is to use some sort of PCBJACOBI or PCFIELDSPLIT preconditioner, but I'm not entirely sure. I've tried following this example:</div><div><a href="https://www.mcs.anl.gov/petsc/petsc-current/src/ksp/ksp/examples/tutorials/ex7.c.html" target="_blank">https://www.mcs.anl.gov/petsc/petsc-current/src/ksp/ksp/examples/tutorials/ex7.c.html</a><br></div><div>but without any improvement in the convergence. </div><div><br></div><div>On each processor the slab index is the major index and the internal slab DOF index is the minor index. The parallel decomposition is within the 2D slab dimensions only, not between slabs.</div><div><br></div><div>I'm configuring the 3D inner linear solver as</div><div><br></div><div><font face="monospace">KSPGetPC(ksp, &pc);<br>PCSetType(pc, PCBJACOBI);<br>PCBJacobiSetLocalBlocks(pc, num_slabs, NULL);<br>KSPSetUp(ksp);<br>PCBJacobiGetSubKSP(pc, &nlocal, &first_local, &subksp);<br>for(int ii = 0; ii < nlocal; ii++) {<br>    KSPGetPC(subksp[ii], &subpc);<br>    PCSetType(subpc, PCJACOBI);<br>    KSPSetType(subksp[ii], KSPGMRES);</font></div><div><font face="monospace">    KSPSetTolerances(subksp[ii], 1.e-12, PETSC_DEFAULT, PETSC_DEFAULT, PETSC_DEFAULT);<br>}</font><br></div><div><br></div><div>However this does not seem to change the outer nonlinear convergence. When I run with ksp_view the local block sizes look correct - number of local 2D slab DOFs for each block on each processor.</div><div><br></div><div>Any ideas on what sort of KSP/PC configuration I should be using to recover the convergence of the uncoupled 2D slab linear solve for this 3D linear solve? Should I be rethinking my node indexing to help with this?</div><div><br></div><div>Cheers, Dave.</div></div>