Not really following this thread; here is my input:<div><br></div><div>I know that we (Justin and me) had to add a couple lines in the ~cdmlib.sh in order to make it work correctly for the SCEC workflow. I have the patched version somewhere in my dir, will dig it up.<div>
<br></div><div>In addition, I also observed that when the "* default " line is present in the cdm files, it somehow did not work for me, so I had to remove it.</div><div><br></div><div>I did do some tests on combinations of absolute, relative, path in swift script and the same in the cdm directory but do not recall results (nothing unexpected happen). </div>
<div><br></div><div>I wrote some documentation on the CDM section, will dig up and get back.<br><br><br><div class="gmail_quote">On Mon, Mar 5, 2012 at 6:43 PM, Michael Wilde <span dir="ltr"><<a href="mailto:wilde@mcs.anl.gov">wilde@mcs.anl.gov</a>></span> wrote:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">Hi Ketan, Justin, or anyone else who has tried this recently:<br>
<br>
Could you point us to the documentation that you wrote on how to use CDM direct to obtain simple access to literal, untranslated, full path names?<br>
<br>
As I recall there were some subtleties on how to specify the name patterns, including matching both swiftwrap-observed names and file:// names in vdl-int.k.<br>
<br>
Or is it simper then I recall?<br>
<br>
I have checked out the CDM "absolute" test that Emalayan mentioned below. Does that do a complete test of references to absolute names? And for only names below say /tmp/mosa?<br>
<br>
- Mike<br>
<br>
<br>
<br>
----- Original Message -----<br>
> From: "Emalayan Vairavanathan" <<a href="mailto:svemalayan@yahoo.com">svemalayan@yahoo.com</a>><br>
> To: "Jonathan Monette" <<a href="mailto:jonmon@mcs.anl.gov">jonmon@mcs.anl.gov</a>><br>
> Cc: "Michael Wilde" <<a href="mailto:wilde@mcs.anl.gov">wilde@mcs.anl.gov</a>>, <a href="mailto:emalayan@ece.ubc.ca">emalayan@ece.ubc.ca</a>, <a href="mailto:matei@ece.ubc.ca">matei@ece.ubc.ca</a>, <a href="mailto:swift-devel@ci.uchicago.edu">swift-devel@ci.uchicago.edu</a>, "Jonathan<br>

> Monette" <<a href="mailto:jon.monette@gmail.com">jon.monette@gmail.com</a>>, "MosaStore" <<a href="mailto:mosastore@googlegroups.com">mosastore@googlegroups.com</a>><br>
> Sent: Monday, March 5, 2012 5:25:05 PM<br>
> Subject: Re: [Swift-devel] Configuring Swift to access MosaStore<br>
> Please find the attached setup.<br>
><br>
><br>
> Thank you<br>
> Emalayan<br>
><br>
><br>
><br>
><br>
><br>
> From: Jonathan Monette <<a href="mailto:jonmon@mcs.anl.gov">jonmon@mcs.anl.gov</a>><br>
> To: Emalayan Vairavanathan <<a href="mailto:svemalayan@yahoo.com">svemalayan@yahoo.com</a>><br>
> Cc: Michael Wilde <<a href="mailto:wilde@mcs.anl.gov">wilde@mcs.anl.gov</a>>; "<a href="mailto:emalayan@ece.ubc.ca">emalayan@ece.ubc.ca</a>"<br>
> <<a href="mailto:emalayan@ece.ubc.ca">emalayan@ece.ubc.ca</a>>; "<a href="mailto:matei@ece.ubc.ca">matei@ece.ubc.ca</a>" <<a href="mailto:matei@ece.ubc.ca">matei@ece.ubc.ca</a>>;<br>
> "<a href="mailto:swift-devel@ci.uchicago.edu">swift-devel@ci.uchicago.edu</a>" <<a href="mailto:swift-devel@ci.uchicago.edu">swift-devel@ci.uchicago.edu</a>>;<br>
> "<a href="mailto:mosastore@googlegroups.com">mosastore@googlegroups.com</a>" <<a href="mailto:mosastore@googlegroups.com">mosastore@googlegroups.com</a>>; Jonathan<br>
> Monette <<a href="mailto:jon.monette@gmail.com">jon.monette@gmail.com</a>><br>
> Sent: Monday, 5 March 2012 3:07 PM<br>
> Subject: Re: [Swift-devel] Configuring Swift to access MosaStore<br>
><br>
><br>
><br>
><br>
> If you could provide the set up you were using that would be great. I<br>
> can fill in anything missing an do my tests to verify.<br>
><br>
> On Mar 5, 2012, at 13:34, Emalayan Vairavanathan <<br>
> <a href="mailto:svemalayan@yahoo.com">svemalayan@yahoo.com</a> > wrote:<br>
><br>
><br>
><br>
><br>
><br>
><br>
><br>
> Thank you Jon.<br>
><br>
><br>
><br>
> Yesterday I successfully run Mosa (on our cluster) with cdm-direct<br>
> mode with the help of swift-user manual and the scripts available in<br>
> /cog/modules/swift/tests/cdm/absolute .<br>
><br>
><br>
> It would be useful if you can develop a simple test case. I can double<br>
> check with my test case.<br>
><br>
><br>
> Thank you<br>
> Emalayan<br>
><br>
><br>
><br>
><br>
><br>
><br>
> From: Jonathan Monette < <a href="mailto:jonmon@mcs.anl.gov">jonmon@mcs.anl.gov</a> ><br>
> To: Michael Wilde < <a href="mailto:wilde@mcs.anl.gov">wilde@mcs.anl.gov</a> ><br>
> Cc: " <a href="mailto:emalayan@ece.ubc.ca">emalayan@ece.ubc.ca</a> " < <a href="mailto:emalayan@ece.ubc.ca">emalayan@ece.ubc.ca</a> >; "<br>
> <a href="mailto:matei@ece.ubc.ca">matei@ece.ubc.ca</a> " < <a href="mailto:matei@ece.ubc.ca">matei@ece.ubc.ca</a> >; " <a href="mailto:swift-devel@ci.uchicago.edu">swift-devel@ci.uchicago.edu</a><br>

> " < <a href="mailto:swift-devel@ci.uchicago.edu">swift-devel@ci.uchicago.edu</a> >; " <a href="mailto:mosastore@googlegroups.com">mosastore@googlegroups.com</a> " <<br>
> <a href="mailto:mosastore@googlegroups.com">mosastore@googlegroups.com</a> >; Jonathan Monette < <a href="mailto:jon.monette@gmail.com">jon.monette@gmail.com</a><br>
> ><br>
> Sent: Monday, 5 March 2012 7:14 AM<br>
> Subject: Re: [Swift-devel] Configuring Swift to access MosaStore<br>
><br>
> Yea. I will get demo scripts together for the mosa tests.<br>
><br>
> On Mar 5, 2012, at 8:17, Michael Wilde < <a href="mailto:wilde@mcs.anl.gov">wilde@mcs.anl.gov</a> > wrote:<br>
><br>
> > was: Re: [Swift-devel] <a href="http://coasters-hosts.pl" target="_blank">coasters-hosts.pl</a> script<br>
> ><br>
> > Jon, can you create a demo script that shows how to configure a<br>
> > Swift run to use MosaStore. The following approach may work:<br>
> ><br>
> > - Assume MosaStore will be mounted as /mosa to all workers<br>
> ><br>
> > - Simulate this with a localhost run, using /tmp/mosa, then do same<br>
> > with *1* worker, N jobs per node (eg 4 on BG/P, 8 on PADS, 2 on<br>
> > Beagle).<br>
> ><br>
> > - Set CDM direct mode for all paths starting with [/tmp]/mosa. You<br>
> > might need to work through some of the issues with CDM direct where<br>
> > accesses need to match both /tmp/mosa and file:///tmp/mosa (I<br>
> > *think*)<br>
> ><br>
> > - Map some temporary output-to-input files to /tmp/mosa; create a<br>
> > multi-level "catsncats"-like workflow to exercise it; the recent<br>
> > ParameterSweep example, perhaps extended to do N levels of<br>
> > fan-in/fan-out and pass-N might be a good test.<br>
> ><br>
> > - see if you can get _concurrent to get placed on /tmp/mosa<br>
> ><br>
> > I think some of these tests would be a great test case for<br>
> > Swift/Turbine as well.<br>
> ><br>
> > You can do this is stages; the simple test of mapping CDM-direct<br>
> > files to /tmp/mosa should give Emalayan an initial test case to run<br>
> > once Mosa is ready on the BG/P.<br>
> ><br>
> > - Mike<br>
> ><br>
> ><br>
> > ----- Original Message -----<br>
> >> From: "Matei Ripeanu" < <a href="mailto:matei.ripeanu@gmail.com">matei.ripeanu@gmail.com</a> ><br>
> >> To: <a href="mailto:mosastore@googlegroups.com">mosastore@googlegroups.com</a> , "Jonathan Monette" <<br>
> >> <a href="mailto:jonmon@mcs.anl.gov">jonmon@mcs.anl.gov</a> >, "Justin M Wozniak" < <a href="mailto:wozniak@mcs.anl.gov">wozniak@mcs.anl.gov</a> ><br>
> >> Cc: <a href="mailto:swift-devel@ci.uchicago.edu">swift-devel@ci.uchicago.edu</a> , <a href="mailto:emalayan@ece.ubc.ca">emalayan@ece.ubc.ca</a><br>
> >> Sent: Friday, March 2, 2012 6:29:17 PM<br>
> >> Subject: Re: [Swift-devel] <a href="http://coasters-hosts.pl" target="_blank">coasters-hosts.pl</a> script<br>
> >> Indeed this is good news! Thank you.<br>
> >><br>
> >><br>
> >><br>
> >> Our next task, I think, will be to figure out how to configure<br>
> >> Swift<br>
> >> so that the headnode (where Swift runs) will not require any access<br>
> >> to<br>
> >> intermediate storage (MosaStore). Only the worker nodes will have<br>
> >> access to intermediate storage. This is to go around the one way<br>
> >> headnode-worker node connectivity issue.<br>
> >><br>
> >><br>
> >><br>
> >> Any guidance on how to get this configuration would be much<br>
> >> appreciated.<br>
> >><br>
> >><br>
> >><br>
> >> Thank you again,<br>
> >><br>
> >><br>
> >><br>
> >> -Matei<br>
> >><br>
> >><br>
> >><br>
> >><br>
> >><br>
> >> From: <a href="mailto:mosastore@googlegroups.com">mosastore@googlegroups.com</a> [mailto:<br>
> >> <a href="mailto:mosastore@googlegroups.com">mosastore@googlegroups.com</a> ]<br>
> >> On Behalf Of Emalayan Vairavanathan<br>
> >> Sent: March-02-12 2:32 PM<br>
> >> To: Jonathan Monette; Justin M Wozniak<br>
> >> Cc: <a href="mailto:swift-devel@ci.uchicago.edu">swift-devel@ci.uchicago.edu</a> Devel; emalayan@ece.ubc.cais ;<br>
> >> MosaStore<br>
> >> Subject: Re: [Swift-devel] <a href="http://coasters-hosts.pl" target="_blank">coasters-hosts.pl</a> script<br>
> >><br>
> >><br>
> >><br>
> >><br>
> >><br>
> >> Thank you Jon and Justin.<br>
> >><br>
> >><br>
> >><br>
> >><br>
> >><br>
> >> This is a great news. I will get back to you if I have questions.<br>
> >><br>
> >><br>
> >><br>
> >><br>
> >><br>
> >> Regards<br>
> >><br>
> >><br>
> >> Emalayan<br>
> >><br>
> >><br>
> >><br>
> >><br>
> >><br>
> >><br>
> >><br>
> >><br>
> >><br>
> >> From: Jonathan Monette < <a href="mailto:jonmon@mcs.anl.gov">jonmon@mcs.anl.gov</a> ><br>
> >> To: Justin M Wozniak < <a href="mailto:wozniak@mcs.anl.gov">wozniak@mcs.anl.gov</a> ><br>
> >> Cc: " <a href="mailto:swift-devel@ci.uchicago.edu">swift-devel@ci.uchicago.edu</a> Devel " <<br>
> >> <a href="mailto:swift-devel@ci.uchicago.edu">swift-devel@ci.uchicago.edu</a> >; <a href="mailto:emalayan@ece.ubc.ca">emalayan@ece.ubc.ca</a><br>
> >> Sent: Friday, 2 March 2012 2:21 PM<br>
> >> Subject: Re: [Swift-devel] <a href="http://coasters-hosts.pl" target="_blank">coasters-hosts.pl</a> script<br>
> >><br>
> >><br>
> >> Emalayan,<br>
> >> We believe we have fixed the issue. You can copy the new<br>
> >> <a href="http://coasters-hosts.pl" target="_blank">coasters-hosts.pl</a> script from<br>
> >> ~jonmon/surveyor/worker-init-test/<a href="http://coasters-hosts.pl" target="_blank">coasters-hosts.pl</a><br>
> >><br>
> >> This script reads the worker logs located in the logs directory.<br>
> >> The<br>
> >> steps to run are as follows:<br>
> >> start-coaster-service<br>
> >> <wait for workers to start><br>
> >> ./<a href="http://coasters-hosts.pl" target="_blank">coasters-hosts.pl</a> logs/worker-*.log > worker-hosts.txt<br>
> >><br>
> >> You MUST clean out the worker logs after you before you start a new<br>
> >> coaster service to make sure the script searches the right worker<br>
> >> log<br>
> >> files. This may not be ideal at the moment but this will help get<br>
> >> you<br>
> >> started. If you have any other questions feel free to ask. We will<br>
> >> need to update the mosaswift site with the new information, we will<br>
> >> do<br>
> >> this soon.<br>
> >><br>
> >> On Mar 2, 2012, at 11:26 AM, Jonathan Monette wrote:<br>
> >><br>
> >>> Can we match this line: 2012/03/02 17:16:04.712 INFO - Running on<br>
> >>> node 172.18.1.83 from the worker log,<br>
> >>> instead of this line: 2012-03-02 17:21:25,214+0000 DEBUG Cpu<br>
> >>> worker<br>
> >>> started: block=2012.0302.171344.704 host=172.18.1.83 id=0 from the<br>
> >>> cps log?<br>
> >>><br>
> >>> They both provide the same ip addresses. And the worker log always<br>
> >>> has that ip address before the cps log does.<br>
> >>><br>
> >>> On Mar 2, 2012, at 11:15 AM, Jonathan Monette wrote:<br>
> >>><br>
> >>>> That fix still did not work. I had moved it to the same spot. It<br>
> >>>> is<br>
> >>>> still waiting for the <a href="http://worker-init.pl" target="_blank">worker-init.pl</a> script to finish before the<br>
> >>>> ip<br>
> >>>> addresses are printed to the cps log. Those ip addresses are what<br>
> >>>> is needed by the <a href="http://coaster-hosts.pl" target="_blank">coaster-hosts.pl</a> script to finish. If I create<br>
> >>>> an<br>
> >>>> empty file for the <a href="http://coaster-host.pl" target="_blank">coaster-host.pl</a> script to read, then the work<br>
> >>>> continues and the ip addresses show up in the cps log.<br>
> >>>><br>
> >>>> Why is log4j waiting to add those lines to the cps log after the<br>
> >>>> <a href="http://worker-init.pl" target="_blank">worker-init.pl</a> script is finished?<br>
> >>>><br>
> >>>> On Mar 2, 2012, at 11:05 AM, Jonathan Monette wrote:<br>
> >>>><br>
> >>>>> Thanks, in my copy I thought I had moved the reconnect to before<br>
> >>>>> the init-cmd and it still wasn't working. I will test with your<br>
> >>>>> change. I just verified that it was indeed waiting for the<br>
> >>>>> <a href="http://worker-init.pl" target="_blank">worker-init.pl</a> script to finish. I created an empty file for the<br>
> >>>>> script to read and it finished connecting and the ip addresses I<br>
> >>>>> needed were added to the cps log. I will also be testing your<br>
> >>>>> fix.<br>
> >>>>><br>
> >>>>> On Mar 2, 2012, at 11:01 AM, Justin M Wozniak wrote:<br>
> >>>>><br>
> >>>>>><br>
> >>>>>> Yes- I must have tested this with a different log file. I just<br>
> >>>>>> checked in and installed in ~wozniak/Public a fix for this that<br>
> >>>>>> launches WORKER_INIT_CMD after the reconnect(). I am a little<br>
> >>>>>> worried about time outs but it works so far. I will continue<br>
> >>>>>> testing...<br>
> >>>>>> Justin<br>
> >>>>>><br>
> >>>>>> On Thu, 1 Mar 2012, Jonathan Monette wrote:<br>
> >>>>>><br>
> >>>>>>> Justin,<br>
> >>>>>>> So I have been trying to help Emalayan get the host list file<br>
> >>>>>>> for the <a href="http://worker-init.pl" target="_blank">worker-init.pl</a> script. It seems the cps log file is<br>
> >>>>>>> not<br>
> >>>>>>> providing the ip addresses for the <a href="http://coasters-hosts.pl" target="_blank">coasters-hosts.pl</a> script. I<br>
> >>>>>>> thought this was maybe because we did not have the correct<br>
> >>>>>>> log4j<br>
> >>>>>>> setting set but we have the Coaster service Cpu set to DEBUG.<br>
> >>>>>>> So<br>
> >>>>>>> for some reason the workers are not connecting to the service.<br>
> >>>>>>> When I comment out the export WORKER_ENVIRONEMTN="…" line in<br>
> >>>>>>> the<br>
> >>>>>>> coaster-service.conf file I see the workers connect and the<br>
> >>>>>>> cps<br>
> >>>>>>> log file shows there ip addresses. However when setting this<br>
> >>>>>>> line it seems they are not connecting.<br>
> >>>>>>><br>
> >>>>>>> Emalayan thought there might be some sort of circular<br>
> >>>>>>> dependency<br>
> >>>>>>> going with the host-list file and the worker. The worker<br>
> >>>>>>> requires the host-list file so that it can run the<br>
> >>>>>>> <a href="http://worker-init.pl" target="_blank">worker-init.pl</a> script and then connect but the host-list file<br>
> >>>>>>> cannot be generated because the workers cannot connect. I<br>
> >>>>>>> noticed in your swift-test directory the cps files did have<br>
> >>>>>>> the<br>
> >>>>>>> ip addresses set and <a href="http://coasters-hosts.pl" target="_blank">coasters-hosts.pl</a> found the ip addresses<br>
> >>>>>>> and reported them. Did you try that test with setting the<br>
> >>>>>>> WORKER_ENVIRONMENT variable in the coaster-service.conf file?<br>
> >>>>>>> Any idea what may be happening? The job is running when<br>
> >>>>>>> looking<br>
> >>>>>>> under cqstat.<br>
> >>>>>>><br>
> >>>>>>> A side note: At the mosaswift site, your example talks about<br>
> >>>>>>> running the <a href="http://coasters-hosts.pl" target="_blank">coasters-hosts.pl</a> on the cps log but the example<br>
> >>>>>>> you<br>
> >>>>>>> provide runs it on logs/coasters.log. This may need to be<br>
> >>>>>>> changed. Also, should provide the log4j setting that is<br>
> >>>>>>> required<br>
> >>>>>>> to generate the Cpu line with the worker ip address just to<br>
> >>>>>>> clarify that this line should be set for this script to work.<br>
> >>>>>>><br>
> >>>>>>> For reference, this line:<br>
> >>>>>>> log4j.logger.org.globus.cog.abstraction.coaster.service.job.manager.Cpu=DEBUG<br>
> >>>>>><br>
> >>>>>> --<br>
> >>>>>> Justin M Wozniak<br>
> >>>>><br>
> >>>>> _______________________________________________<br>
> >>>>> Swift-devel mailing list<br>
> >>>>> <a href="mailto:Swift-devel@ci.uchicago.edu">Swift-devel@ci.uchicago.edu</a><br>
> >>>>> <a href="https://lists.ci.uchicago.edu/cgi-bin/mailman/listinfo/swift-devel" target="_blank">https://lists.ci.uchicago.edu/cgi-bin/mailman/listinfo/swift-devel</a><br>
> >>>><br>
> >>>> _______________________________________________<br>
> >>>> Swift-devel mailing list<br>
> >>>> <a href="mailto:Swift-devel@ci.uchicago.edu">Swift-devel@ci.uchicago.edu</a><br>
> >>>> <a href="https://lists.ci.uchicago.edu/cgi-bin/mailman/listinfo/swift-devel" target="_blank">https://lists.ci.uchicago.edu/cgi-bin/mailman/listinfo/swift-devel</a><br>
> >>><br>
> >>> _______________________________________________<br>
> >>> Swift-devel mailing list<br>
> >>> <a href="mailto:Swift-devel@ci.uchicago.edu">Swift-devel@ci.uchicago.edu</a><br>
> >>> <a href="https://lists.ci.uchicago.edu/cgi-bin/mailman/listinfo/swift-devel" target="_blank">https://lists.ci.uchicago.edu/cgi-bin/mailman/listinfo/swift-devel</a><br>
> >><br>
> >><br>
> >><br>
> >><br>
> >> --<br>
> >> You received this message because you are subscribed to the Google<br>
> >> Groups "MosaStore" group.<br>
> >> To post to this group, send email to <a href="mailto:mosastore@googlegroups.com">mosastore@googlegroups.com</a> .<br>
> >> To unsubscribe from this group, send email to<br>
> >> mosastore+ <a href="mailto:unsubscribe@googlegroups.com">unsubscribe@googlegroups.com</a> .<br>
> >> For more options, visit this group at<br>
> >> <a href="http://groups.google.com/group/mosastore?hl=en" target="_blank">http://groups.google.com/group/mosastore?hl=en</a> .<br>
> >> _______________________________________________<br>
> >> Swift-devel mailing list<br>
> >> <a href="mailto:Swift-devel@ci.uchicago.edu">Swift-devel@ci.uchicago.edu</a><br>
> >> <a href="https://lists.ci.uchicago.edu/cgi-bin/mailman/listinfo/swift-devel" target="_blank">https://lists.ci.uchicago.edu/cgi-bin/mailman/listinfo/swift-devel</a><br>
> ><br>
> > --<br>
> > Michael Wilde<br>
> > Computation Institute, University of Chicago<br>
> > Mathematics and Computer Science Division<br>
> > Argonne National Laboratory<br>
> ><br>
> _______________________________________________<br>
> Swift-devel mailing list<br>
> <a href="mailto:Swift-devel@ci.uchicago.edu">Swift-devel@ci.uchicago.edu</a><br>
> <a href="https://lists.ci.uchicago.edu/cgi-bin/mailman/listinfo/swift-devel" target="_blank">https://lists.ci.uchicago.edu/cgi-bin/mailman/listinfo/swift-devel</a><br>
><br>
><br>
> --<br>
> You received this message because you are subscribed to the Google<br>
> Groups "MosaStore" group.<br>
> To post to this group, send email to <a href="mailto:mosastore@googlegroups.com">mosastore@googlegroups.com</a>.<br>
> To unsubscribe from this group, send email to<br>
> <a href="mailto:mosastore%2Bunsubscribe@googlegroups.com">mosastore+unsubscribe@googlegroups.com</a>.<br>
> For more options, visit this group at<br>
> <a href="http://groups.google.com/group/mosastore?hl=en" target="_blank">http://groups.google.com/group/mosastore?hl=en</a>.<br>
<font color="#888888"><br>
--<br>
Michael Wilde<br>
Computation Institute, University of Chicago<br>
Mathematics and Computer Science Division<br>
Argonne National Laboratory<br>
<br>
_______________________________________________<br>
Swift-devel mailing list<br>
<a href="mailto:Swift-devel@ci.uchicago.edu">Swift-devel@ci.uchicago.edu</a><br>
<a href="https://lists.ci.uchicago.edu/cgi-bin/mailman/listinfo/swift-devel" target="_blank">https://lists.ci.uchicago.edu/cgi-bin/mailman/listinfo/swift-devel</a><br>
</font></blockquote></div><br><br clear="all"><div><br></div>-- <br><font face="'courier new', monospace">Ketan</font><br><br><br>
</div></div>