<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.0 Transitional//EN">
<HTML><HEAD>
<META content="text/html; charset=utf-8" http-equiv=Content-Type>
<META name=GENERATOR content="MSHTML 8.00.6001.18852"></HEAD>
<BODY>
<DIV dir=ltr align=left><SPAN class=546022918-13112009><FONT color=#0000ff 
size=2 face=Arial>If you use the default Nemesis channel (ch3:nemesis), 
communication within a node goes over shared memory and across nodes over some 
communication channel.</FONT></SPAN></DIV>
<DIV dir=ltr align=left><SPAN class=546022918-13112009><FONT color=#0000ff 
size=2 face=Arial></FONT></SPAN>&nbsp;</DIV>
<DIV dir=ltr align=left><SPAN class=546022918-13112009><FONT color=#0000ff 
size=2 face=Arial>Rajeev</FONT></SPAN></DIV><BR>
<BLOCKQUOTE 
style="BORDER-LEFT: #0000ff 2px solid; PADDING-LEFT: 5px; MARGIN-LEFT: 5px; MARGIN-RIGHT: 0px">
  <DIV dir=ltr lang=en-us class=OutlookMessageHeader align=left>
  <HR tabIndex=-1>
  <FONT size=2 face=Tahoma><B>From:</B> mpich-discuss-bounces@mcs.anl.gov 
  [mailto:mpich-discuss-bounces@mcs.anl.gov] <B>On Behalf Of </B>hu 
  yaohui<BR><B>Sent:</B> Friday, November 13, 2009 3:13 AM<BR><B>To:</B> 
  mpich-discuss@mcs.anl.gov<BR><B>Subject:</B> Re: [mpich-discuss]答复: how to 
  connect MPI_Send with CH3_isend<BR></FONT><BR></DIV>
  <DIV></DIV>
  <DIV>thank you very much!</DIV>
  <DIV>&nbsp;&nbsp;&nbsp;I&nbsp;would really appreciate,if you can give me some 
  detail steps&nbsp;from the implemention of these&nbsp;functions to&nbsp;deploy 
  the mpich2&nbsp;on&nbsp;my clusters!&nbsp;(such as how to modify the configure 
  file sth like that.)</DIV>
  <DIV>&nbsp;&nbsp;&nbsp; i did a test yesterday ,i install the mpich2 three 
  times ,and then check the make 
  output,chosse&nbsp;./configure&nbsp;--with-device=ch3:sock,--with-device=ch3:sctp 
  and default,</DIV>
  <DIV>does these device means the internode communication channel? and the 
  default intranode communication channel is shared-memory and cann't be 
  modified?</DIV>
  <DIV>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
  thank you very much!</DIV>
  <DIV>&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 
  best wishes!<BR></DIV>
  <DIV class=gmail_quote>2009/11/13 Darius Buntinas <SPAN dir=ltr>&lt;<A 
  href="mailto:buntinas@mcs.anl.gov">buntinas@mcs.anl.gov</A>&gt;</SPAN><BR>
  <BLOCKQUOTE 
  style="BORDER-LEFT: #ccc 1px solid; MARGIN: 0px 0px 0px 0.8ex; PADDING-LEFT: 1ex" 
  class=gmail_quote><BR>The ability to use different networks for 
    different<BR>destinations is a feature we intend to add, but it's not<BR>yet 
    implemented. &nbsp;Nemesis does use shared-memory communication<BR>for 
    intranode communication and the network for internode.<BR><BR>There are 
    several internal interfaces for porting MPICH2 to new<BR>platforms or 
    interconnects. &nbsp;This paper has a description of 
    the<BR>interfaces:<BR><A 
    href="http://www.mcs.anl.gov/~buntinas/papers/europvmmpi06-nemesis.pdf" 
    target=_blank>http://www.mcs.anl.gov/~buntinas/papers/europvmmpi06-nemesis.pdf</A><BR><BR>If 
    you're interested in porting MPICH2 to a new interconnect,<BR>you should 
    write a nemesis network module. &nbsp;The API is described<BR>here:<BR><A 
    href="http://wiki.mcs.anl.gov/mpich2/index.php/Nemesis_Network_Module_API" 
    target=_blank>http://wiki.mcs.anl.gov/mpich2/index.php/Nemesis_Network_Module_API</A><BR><BR>I 
    hope this helps,<BR><FONT color=#888888><BR>-d<BR></FONT>
    <DIV>
    <DIV></DIV>
    <DIV class=h5><BR><BR><BR><BR><BR><BR>On 11/12/2009 11:29 PM, yaohui 
    wrote:<BR>&gt; Thank you very much!<BR>&gt; &nbsp; &nbsp; &nbsp; Finally I 
    got a response!<BR>&gt; I am doing some researches on adding 
    HT(HyperTransport) into mpich2,I am<BR>&gt; just wandering when we configure 
    the mpich2 with<BR>&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 
    &nbsp; &nbsp; &nbsp; &nbsp; ./configure –with-device=ch3:sock 
    (ch3:nemesis)<BR>&gt; that means we definitely select one network as the 
    channel to communicate,<BR>&gt; but if there are any possibilities that you 
    can dynamic<BR>&gt; control the network we use ,sometimes messages go 
    through Ethernet,<BR>&gt; sometimes go through IB. could you give me some 
    materials<BR>&gt; to understand what's the difference between 
    ~/ch3/channel/sock<BR>&gt; ,~/ch3/channel/sctp 
    ~,~/ch3/channel/nemesis/nemesis/net_mod/tcp_module<BR>&gt; , 
    ~/ch3/channel/nemesis/nemesis/net_mod/sctp_module,<BR>&gt; 
    ~/ch3/channel/nemesis/nemesis/net_mod/ib_module<BR>&gt;<BR>&gt; Thank you 
    again!<BR>&gt;<BR>&gt; Best Wishes!<BR>&gt; -----邮件原件-----<BR>&gt; 发件人: <A 
    href="mailto:mpich-discuss-bounces@mcs.anl.gov">mpich-discuss-bounces@mcs.anl.gov</A> 
    [mailto:<A 
    href="mailto:mpich-discuss-bounces@mcs">mpich-discuss-bounces@mcs</A>.<BR>&gt; 
    <A href="http://anl.gov/" target=_blank>anl.gov</A>] 代表 Darius 
    Buntinas<BR>&gt; 发送时间: 2009年11月12日 23:30<BR>&gt; 收件人: <A 
    href="mailto:mpich-discuss@mcs.anl.gov">mpich-discuss@mcs.anl.gov</A><BR>&gt; 
    主题: Re: [mpich-discuss] how to connect MPI_Send with 
    CH3_isend<BR>&gt;<BR>&gt; The best way to understand what happens is to step 
    through the calls<BR>&gt; with a debugger. &nbsp;The channel is selected in 
    the configure step, and<BR>&gt; only that channel will be compiled, so there 
    will be only one copy of<BR>&gt; ch3_isend in the binary.<BR>&gt;<BR>&gt; 
    -d<BR>&gt;<BR>&gt; On 11/12/2009 05:54 AM, hu yaohui wrote:<BR>&gt;&gt; hi 
    guys!<BR>&gt;&gt; &nbsp; &nbsp; Could someone tell me the detail calling 
    flow from MPI_Send() to<BR>&gt;&gt; CH3_isend()?<BR>&gt;&gt; &nbsp; &nbsp; 
    How to control which CH3_isend() is called between sock,sctp and<BR>&gt;&gt; 
    shm? thank you very much!<BR>&gt;&gt;<BR>&gt; best<BR>&gt;&gt; 
    wishes!<BR>&gt;&gt;<BR>&gt;<BR>&gt;&gt; 
    loki!<BR>&gt;&gt;<BR>&gt;&gt;<BR>&gt;&gt;<BR>&gt;&gt; 
    ------------------------------------------------------------------------<BR>&gt;&gt;<BR>&gt;&gt; 
    _______________________________________________<BR>&gt;&gt; mpich-discuss 
    mailing list<BR>&gt;&gt; <A 
    href="mailto:mpich-discuss@mcs.anl.gov">mpich-discuss@mcs.anl.gov</A><BR>&gt;&gt; 
    <A href="https://lists.mcs.anl.gov/mailman/listinfo/mpich-discuss" 
    target=_blank>https://lists.mcs.anl.gov/mailman/listinfo/mpich-discuss</A><BR>&gt; 
    _______________________________________________<BR>&gt; mpich-discuss 
    mailing list<BR>&gt; <A 
    href="mailto:mpich-discuss@mcs.anl.gov">mpich-discuss@mcs.anl.gov</A><BR>&gt; 
    <A href="https://lists.mcs.anl.gov/mailman/listinfo/mpich-discuss" 
    target=_blank>https://lists.mcs.anl.gov/mailman/listinfo/mpich-discuss</A><BR>&gt;<BR>&gt;<BR>&gt;<BR>&gt; 
    ------------------------------------------------------------------------<BR>&gt;<BR>&gt; 
    _______________________________________________<BR>&gt; mpich-discuss 
    mailing list<BR>&gt; <A 
    href="mailto:mpich-discuss@mcs.anl.gov">mpich-discuss@mcs.anl.gov</A><BR>&gt; 
    <A href="https://lists.mcs.anl.gov/mailman/listinfo/mpich-discuss" 
    target=_blank>https://lists.mcs.anl.gov/mailman/listinfo/mpich-discuss</A><BR></DIV></DIV><BR>_______________________________________________<BR>mpich-discuss 
    mailing list<BR><A 
    href="mailto:mpich-discuss@mcs.anl.gov">mpich-discuss@mcs.anl.gov</A><BR><A 
    href="https://lists.mcs.anl.gov/mailman/listinfo/mpich-discuss" 
    target=_blank>https://lists.mcs.anl.gov/mailman/listinfo/mpich-discuss</A><BR><BR></BLOCKQUOTE></DIV><BR></BLOCKQUOTE></BODY></HTML>