<div dir="ltr"><div class="gmail_default" style="font-family:courier new,monospace;font-size:small">Thanks, Rob.</div><div class="gmail_default" style="font-family:courier new,monospace;font-size:small">I tried both login and compute nodes ( through interactive mode). I feel that there is something wrong in my environment. I am talking to the IT help people and will get back to you.</div><div class="gmail_default" style="font-family:courier new,monospace;font-size:small"><br></div><div class="gmail_default" style="font-family:courier new,monospace;font-size:small">Abid</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, Nov 12, 2019 at 3:33 PM Latham, Robert J. <<a href="mailto:robl@mcs.anl.gov">robl@mcs.anl.gov</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">On Tue, 2019-11-12 at 13:42 +0000, Carns, Philip H. via mochi-devel<br>
wrote:<br>
> Hi Abid,<br>
> <br>
> It still sounds like your libfabric build does not include the verbs<br>
> and rxm providers.  If you want to confirm this, then load the<br>
> libfabric package and (on a compute node, within a job script) run<br>
> "fi_info" and save the output.<br>
<br>
OH! Abid, are you running from the login nodes?  that's not going to<br>
work.<br>
<br>
A more succint way to get the information Phil requested: 'fi_info -l'<br>
will list the providers it knows:<br>
<br>
Here's the output from the summit login node:<br>
<br>
% fi_info -l<br>
ofi_rxm:<br>
    version: 1.0<br>
shm:<br>
    version: 1.1<br>
ofi_perf_hook:<br>
    version: 1.0<br>
ofi_noop_hook:<br>
    version: 1.0<br>
ofi_mrail:<br>
    version: 1.0<br>
<br>
Summit login node doesn't have any infiband cards, so it does not<br>
advertise the infiniband (verbs) provider.<br>
<br>
But how about from a compute node?  Here's what I see:<br>
<br>
% bsub -W 0:10 -nnodes 2 -P CSC332 -Is /bin/bash<br>
Job <732804> is submitted to default queue <batch>.<br>
<<Waiting for dispatch ...>><br>
<<Starting on batch1>><br>
robl@batch1:$ fi_info -l<br>
verbs:<br>
    version: 1.0<br>
ofi_rxm:<br>
    version: 1.0<br>
shm:<br>
    version: 1.1<br>
ofi_perf_hook:<br>
    version: 1.0<br>
ofi_noop_hook:<br>
    version: 1.0<br>
ofi_mrail:<br>
    version: 1.0<br>
<br>
The rest of Phil's message is spot-on -- if you don't see 'verbs' from<br>
the compute node, you'll have to rebuild libfabric.<br>
<br>
<br>
==rob<br>
<br>
</blockquote></div><br clear="all"><div><br></div>-- <br><div dir="ltr" class="gmail_signature"><div dir="ltr"><div>Abid M. Malik<br>******************************************************<br>"I have learned silence from the talkative, toleration from the intolerant, and kindness from the unkind"---Gibran<br>"Success is not for the chosen few, but for the few who choose" --- John Maxwell<br>"Being a good person does not depend on your religion or status in life, your race or skin color, political views or culture. IT DEPENDS ON HOW GOOD YOU TREAT OTHERS"--- Abid<br>"The Universe is talking to us, and the language of the Universe is mathematics."----Abid<br> </div></div></div>