<html>
<head>
<meta http-equiv="Content-Type" content="text/html; charset=windows-1258">
<style type="text/css" style="display:none;"><!-- P {margin-top:0;margin-bottom:0;} --></style>
</head>
<body dir="ltr">
<div id="divtagdefaultwrapper" style="font-size:12pt;color:#000000;font-family:Calibri,Helvetica,sans-serif;" dir="ltr">
<p style="margin-top:0;margin-bottom:0"><font size="3" face="Calibri,Helvetica,sans-serif" color="black"><span style="font-size:12pt;"></p>
<div><span style="font-family: "Times New Roman", Times, serif;">Dear Petsc developers and Users,</span></div>
<span style="font-family: "Times New Roman", Times, serif;"></span>
<div><font size="3"><span style="font-size: 12pt; font-family: "Times New Roman", Times, serif;"><br>
</span></font></div>
<span style="font-family: "Times New Roman", Times, serif;"></span>
<div><font size="3"><span style="font-size: 12pt; font-family: "Times New Roman", Times, serif;">I am constructing a very large matrices (~5,000,000*5,000,000) for a generalized eigenvalue problem in MPIAIJ format across multiple nodes. The program is to be
 run on a shared HPC cluster using Slurm workload manager. Due to multiple loops and calculations needed, the matrix construction time is long (may span for more than a week).  </span></font></div>
<span style="font-family: "Times New Roman", Times, serif;"></span>
<div><font size="3"><span style="font-size: 12pt; font-family: "Times New Roman", Times, serif;"><br>
</span></font></div>
<span style="font-family: "Times New Roman", Times, serif;"></span>
<div><font size="3"><span style="font-size: 12pt; font-family: "Times New Roman", Times, serif;">Hence, I am trying to see if I can implement checkpoints into the codes, so that the matrix can be constructed partially through multiple job submissions, each
 job picking up from where the previous one left until the matrix is fully built and we can write the global matrix into a binary file for further eigenvalue analysis. My questions are: </span></font></div>
<span style="font-family: "Times New Roman", Times, serif;"></span>
<div><font size="3"><span style="font-size: 12pt; font-family: "Times New Roman", Times, serif;">Does Petsc MPIAIJ format is amenable to such check points? </span></font></div>
<span style="font-family: "Times New Roman", Times, serif;"></span>
<div><font size="3"><span style="font-size: 12pt; font-family: "Times New Roman", Times, serif;">If so, are there any subroutines/functions that I can start with?  </span></font><br>
<span style="font-family: "Times New Roman", Times, serif;"></span></div>
<span style="font-family: "Times New Roman", Times, serif;"></span>
<div><br>
<span style="font-family: "Times New Roman", Times, serif;"></span></div>
<span style="font-family: "Times New Roman", Times, serif;"></span>
<div><span style="font-family: "Times New Roman", Times, serif;">I appreciate any comments/suggestions. </span></div>
<span style="font-family: "Times New Roman", Times, serif;"></span>
<div><br>
<span style="font-family: "Times New Roman", Times, serif;"></span></div>
<span style="font-family: "Times New Roman", Times, serif;"></span>
<div><span style="font-family: "Times New Roman", Times, serif;">Thank you, <br>
</span></div>
<div><span style="font-family: "Times New Roman", Times, serif;">D. N. Pham</span><br>
</div>
</span></font><br>
<p></p>
</div>
</body>
</html>