<html><body><div style="color:#000; background-color:#fff; font-family:HelveticaNeue, Helvetica Neue, Helvetica, Arial, Lucida Grande, sans-serif;font-size:12pt"><div>Barry,</div><div> </div><div>If I understand you correctly, I should number all unknowns owned by a process contiguously before I construct the matrix, right?</div><div> </div><div>Thanks,</div><div>Qin  </div><div><br></div>  <div style="font-family: HelveticaNeue, Helvetica Neue, Helvetica, Arial, Lucida Grande, sans-serif; font-size: 12pt;"> <div style="font-family: HelveticaNeue, Helvetica Neue, Helvetica, Arial, Lucida Grande, sans-serif; font-size: 12pt;"> <div dir="ltr"> <div style="margin: 5px 0px; padding: 0px; border: 1px solid rgb(204, 204, 204); height: 0px; line-height: 0; font-size: 0px;" class="hr" contentEditable="false" readonly="true"></div>  <font size="2" face="Arial"> <b><span style="font-weight: bold;">From:</span></b> Barry Smith
 <bsmith@mcs.anl.gov><br> <b><span style="font-weight: bold;">To:</span></b> Qin Lu <lu_qin_2000@yahoo.com> <br><b><span style="font-weight: bold;">Cc:</span></b> Matthew Knepley <knepley@gmail.com>; petsc-users <petsc-users@mcs.anl.gov> <br> <b><span style="font-weight: bold;">Sent:</span></b> Thursday, July 31, 2014 10:46 AM<br> <b><span style="font-weight: bold;">Subject:</span></b> Re: [petsc-users] Partition of parallel AIJ sparce matrix<br> </font> </div> <div class="y_msg_container"><br><br clear="none">On Jul 31, 2014, at 9:35 AM, Qin Lu <<a href="mailto:lu_qin_2000@yahoo.com" shape="rect" ymailto="mailto:lu_qin_2000@yahoo.com">lu_qin_2000@yahoo.com</a>> wrote:<br clear="none"><br clear="none">> Do you mean the user has to reorder both rows and columns (unknowns)? Or the renumbering of columns are done by PETSc?<br clear="none"><br clear="none">   NO, never reorder the matrix. The degrees of freedom should be
 reordered to be contiquous before any matrix is ever created. Then the matrix and everything else is always computed with regard to this new ordering.<br clear="none"><br clear="none">   Barry<div class="qtdSeparateBR"><br><br></div><div id="yqtfd24566" class="yqt2170524073"><br clear="none"><br clear="none">> Matthew's early response said that only rows need to renumbered by the user so that they are contiguous for each process. In my case, the order of unknowns have been determined before parallel partitioning, is this (just renumbering rows) Ok?<br clear="none">>  <br clear="none">> Thanks,<br clear="none">> Qin    <br clear="none">> <br clear="none">> From: Barry Smith <<a href="mailto:bsmith@mcs.anl.gov" shape="rect" ymailto="mailto:bsmith@mcs.anl.gov">bsmith@mcs.anl.gov</a>><br clear="none">> To: Qin Lu <<a href="mailto:lu_qin_2000@yahoo.com" shape="rect"
 ymailto="mailto:lu_qin_2000@yahoo.com">lu_qin_2000@yahoo.com</a>> <br clear="none">> Cc: Matthew Knepley <<a href="mailto:knepley@gmail.com" shape="rect" ymailto="mailto:knepley@gmail.com">knepley@gmail.com</a>>; petsc-users <<a href="mailto:petsc-users@mcs.anl.gov" shape="rect" ymailto="mailto:petsc-users@mcs.anl.gov">petsc-users@mcs.anl.gov</a>> <br clear="none">> Sent: Wednesday, July 30, 2014 7:37 PM<br clear="none">> Subject: Re: [petsc-users] Partition of parallel AIJ sparce matrix<br clear="none">> <br clear="none">> <br clear="none">> On Jul 30, 2014, at 3:59 PM, Qin Lu <<a href="mailto:lu_qin_2000@yahoo.com" shape="rect" ymailto="mailto:lu_qin_2000@yahoo.com">lu_qin_2000@yahoo.com</a>> wrote:<br clear="none">> <br clear="none">> > Renumbering row will make an unknown not associate with its row (equation),<br clear="none">> <br clear="none">>   It is a symmetric reordering. In matrix
 terms both the rows and columns are reordered the same way. In terms of spaces both the domain and range spaces are reordered the same way.<br clear="none">> <br clear="none">>   Barry<br clear="none">> <br clear="none">> <br clear="none">> > will this affect the solver performance? For example, will the infill pattern change in ILU factorization?<br clear="none">> >  <br clear="none">> > Thanks,<br clear="none">> > Qin <br clear="none">> > <br clear="none">> > From: Matthew Knepley <<a href="mailto:knepley@gmail.com" shape="rect" ymailto="mailto:knepley@gmail.com">knepley@gmail.com</a>><br clear="none">> > To: Qin Lu <<a href="mailto:lu_qin_2000@yahoo.com" shape="rect" ymailto="mailto:lu_qin_2000@yahoo.com">lu_qin_2000@yahoo.com</a>> <br clear="none">> > Cc: Barry Smith <<a href="mailto:bsmith@mcs.anl.gov" shape="rect"
 ymailto="mailto:bsmith@mcs.anl.gov">bsmith@mcs.anl.gov</a>>; petsc-users <<a href="mailto:petsc-users@mcs.anl.gov" shape="rect" ymailto="mailto:petsc-users@mcs.anl.gov">petsc-users@mcs.anl.gov</a>> <br clear="none">> > Sent: Wednesday, July 30, 2014 3:50 PM<br clear="none">> > Subject: Re: [petsc-users] Partition of parallel AIJ sparce matrix<br clear="none">> > <br clear="none">> > On Wed, Jul 30, 2014 at 3:30 PM, Qin Lu <<a href="mailto:lu_qin_2000@yahoo.com" shape="rect" ymailto="mailto:lu_qin_2000@yahoo.com">lu_qin_2000@yahoo.com</a>> wrote:<br clear="none">> > In the context of domain decompostion, if the unknowns are ordered (to reduce the number of infills, for instance) in the way that each subdomain may not own consecutive unknown index, does this mean the partition of the domain will be different from the partition of the matrix?<br clear="none">> >  <br clear="none">> > For
 example, if subdomain 1 (assigned to process 1) owns unknowns 1 and 3 (associated with equation 1 and 3), subdomain 2 (assigned to process 2) owns unknowns 2 and 4 (associated with equation 2 and 4) , how can I make each process own consecutive rows?<br clear="none">> > <br clear="none">> > You renumber the rows once they are partitioned.<br clear="none">> > <br clear="none">> >    Matt<br clear="none">> > <br clear="none">> > <br clear="none">> >  <br clear="none">> > Thanks,<br clear="none">> > Qin<br clear="none">> > <br clear="none">> > From: Barry Smith <<a href="mailto:bsmith@mcs.anl.gov" shape="rect" ymailto="mailto:bsmith@mcs.anl.gov">bsmith@mcs.anl.gov</a>><br clear="none">> > To: Qin Lu <<a href="mailto:lu_qin_2000@yahoo.com" shape="rect" ymailto="mailto:lu_qin_2000@yahoo.com">lu_qin_2000@yahoo.com</a>> <br clear="none">> > Cc: petsc-users
 <<a href="mailto:petsc-users@mcs.anl.gov" shape="rect" ymailto="mailto:petsc-users@mcs.anl.gov">petsc-users@mcs.anl.gov</a>> <br clear="none">> > Sent: Wednesday, July 30, 2014 2:49 PM<br clear="none">> > Subject: Re: [petsc-users] Partition of parallel AIJ sparce matrix<br clear="none">> > <br clear="none">> > <br clear="none">> > On Jul 30, 2014, at 11:08 AM, Qin Lu <<a href="mailto:lu_qin_2000@yahoo.com" shape="rect" ymailto="mailto:lu_qin_2000@yahoo.com">lu_qin_2000@yahoo.com</a>> wrote:<br clear="none">> > <br clear="none">> > > Hello,<br clear="none">> > >  <br clear="none">> > > Does a process have to own consecutive rows of the matrix? For example, suppose the global AIJ is 4x4, partitioned by 2 processes. Does process 1 have to own rows 1 and 2, process 2 own rows 3 and 4?<br clear="none">> > <br clear="none">> >  Yes<br clear="none">> > <br
 clear="none">> > > Or process1 may own rows 1 and 3, and process 2 own row 2 and 4?<br clear="none">> > <br clear="none">> >  However, the numbering of degrees of freedom is arbitrary. Just renumber you degrees of freedom so the first set is on process 0, the next on process 1 etc.<br clear="none">> > <br clear="none">> >  Barry<br clear="none">> > <br clear="none">> > <br clear="none">> > >  <br clear="none">> > > Thanks a lot for your help!<br clear="none">> > >  <br clear="none">> > > Regards,<br clear="none">> > > Qin<br clear="none">> > <br clear="none">> > <br clear="none">> > <br clear="none">> > <br clear="none">> > <br clear="none">> > <br clear="none">> > -- <br clear="none">> > What most experimenters take for granted before they begin their experiments is infinitely more interesting
 than any results to which their experiments lead.<br clear="none">> > -- Norbert Wiener<br clear="none">> > <br clear="none">> > <br clear="none">> <br clear="none">> <br clear="none"></div><br><br></div> </div> </div>  </div></body></html>