<div dir="ltr">Hello Sandra,<div><br></div><div>What command did you actually use for tracing your python code? Did you use something like</div><div><br></div><div>mpiexec -n 4 -env LD_PRELOAD $PATH/libdarshan.so python script.py  ?<br></div><div><br></div><div>Thank you,</div><div><br></div><div>Razvan</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sun, Oct 18, 2020 at 7:30 AM Sandra A. Mendez <<a href="mailto:smendez.fi.unju@gmail.com">smendez.fi.unju@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">Hi Razvan,<div>I have traced a python program by using Darshan. You only need to set up the DARSHAN_ENABLE_NONMPI variable as follows:</div><blockquote style="margin:0px 0px 0px 40px;border:none;padding:0px"><div>export DARSHAN_ENABLE_NONMPI=1</div></blockquote><div>Before running your application. Only a comment, the maximum number of files to trace by Darshan is 1024 files per parallel task. In case of python applications, Darshan traces all the files opened not only the application files (but also the files opened by the python libraries). So take care if your application overcomes that limit.</div><div>Thanks,</div><div>Sandra.-<br><div><br></div></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sun, 18 Oct 2020 at 15:09, Razvan Stefanescu <<a href="mailto:razvan.stefanescu@spire.com" target="_blank">razvan.stefanescu@spire.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">Hello All,<div><br></div><div>Following the documentation note saying that Darshan instrumentation of non-MPI applications is only possible with dynamically-linked applications, it seems I have to convert the multiprocessing and multithreading DASK code to a dynamically-linked code. I know some folks were able to profile Spark and TensorFlow codes with Darshan, so I wonder if you could provide some suggestions about creating such dynamically-linked code.</div><div><br></div><div>Thank you,</div><div><br></div><div>Razvan</div><div><div><br></div>-- <br><div dir="ltr"><div dir="ltr"><div><div dir="ltr"><div dir="ltr" style="font-size:12.8px"><b style="font-size:12.8px"><font color="#000000">RAZVAN STEFANESCU </font></b><br></div><div dir="ltr"><font color="#000000"><span style="font-size:12.8px">Head of Statistics and Machine Learning Branch </span><br></font></div><div dir="ltr" style="font-size:12.8px"><div dir="ltr"><div style="font-family:Helvetica;font-size:14px;color:rgb(136,136,136)"><small><p style="color:rgb(34,34,34);font-family:arial,sans-serif;font-size:12.8px;margin-top:0px;margin-bottom:0px"><span style="color:rgb(0,0,0);font-size:12.8px">Senior Data Assimilation and Data Scientist</span><b style="font-size:12.8px"><br></b></p><div style="color:rgb(34,34,34);font-family:arial,sans-serif;font-size:12.8px"></div><p style="color:rgb(34,34,34);font-family:arial,sans-serif;font-size:12.8px;margin-top:0px;margin-bottom:0px"><b style="font-size:12.8px"><font color="#cc0000">Spire Global, Inc.</font></b><br></p><p style="color:rgb(34,34,34);font-family:arial,sans-serif;font-size:12.8px;margin-top:0px;margin-bottom:0px"><span style="font-size:12.8px">1050 Walnut Street, Suite 402, Boulder, CO 80302 USA</span></p><p style="color:rgb(34,34,34);font-family:arial,sans-serif;font-size:13px;margin-top:0px;margin-bottom:0px"><span style="background-color:rgba(255,255,255,0)"><font color="#0b5394" style="font-size:12.8px"><a href="tel:7206432245" style="color:rgb(17,85,204)" target="_blank">+1-720-</a><u>643-2231</u></font></span></p></small></div><div style="font-family:Helvetica;font-size:14px;color:rgb(136,136,136)"><small><a href="tel:4178491948" style="color:rgb(17,85,204);font-family:arial,sans-serif;font-size:13px" target="_blank">+1-850-443-1718</a></small></div></div></div></div></div></div></div></div></div>
_______________________________________________<br>
Darshan-users mailing list<br>
<a href="mailto:Darshan-users@lists.mcs.anl.gov" target="_blank">Darshan-users@lists.mcs.anl.gov</a><br>
<a href="https://lists.mcs.anl.gov/mailman/listinfo/darshan-users" rel="noreferrer" target="_blank">https://lists.mcs.anl.gov/mailman/listinfo/darshan-users</a><br>
</blockquote></div>
</blockquote></div><br clear="all"><div><br></div>-- <br><div dir="ltr" class="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div dir="ltr" style="font-size:12.8px"><b style="font-size:12.8px"><font color="#000000">RAZVAN STEFANESCU </font></b><br></div><div dir="ltr"><font color="#000000"><span style="font-size:12.8px">Head of Statistics and Machine Learning Branch </span><br></font></div><div dir="ltr" style="font-size:12.8px"><div dir="ltr"><div style="font-family:Helvetica;font-size:14px;color:rgb(136,136,136)"><small><p style="color:rgb(34,34,34);font-family:arial,sans-serif;font-size:12.8px;margin-top:0px;margin-bottom:0px"><span style="color:rgb(0,0,0);font-size:12.8px">Senior Data Assimilation and Data Scientist</span><b style="font-size:12.8px"><br></b></p><div style="color:rgb(34,34,34);font-family:arial,sans-serif;font-size:12.8px"></div><p style="color:rgb(34,34,34);font-family:arial,sans-serif;font-size:12.8px;margin-top:0px;margin-bottom:0px"><b style="font-size:12.8px"><font color="#cc0000">Spire Global, Inc.</font></b><br></p><p style="color:rgb(34,34,34);font-family:arial,sans-serif;font-size:12.8px;margin-top:0px;margin-bottom:0px"><span style="font-size:12.8px">1050 Walnut Street, Suite 402, Boulder, CO 80302 USA</span></p><p style="color:rgb(34,34,34);font-family:arial,sans-serif;font-size:13px;margin-top:0px;margin-bottom:0px"><span style="background-color:rgba(255,255,255,0)"><font color="#0b5394" style="font-size:12.8px"><a href="tel:7206432245" style="color:rgb(17,85,204)" target="_blank">+1-720-</a><u>643-2231</u></font></span></p></small></div><div style="font-family:Helvetica;font-size:14px;color:rgb(136,136,136)"><small><a href="tel:4178491948" style="color:rgb(17,85,204);font-family:arial,sans-serif;font-size:13px" target="_blank">+1-850-443-1718</a></small></div></div></div></div></div></div></div>