<div dir="ltr"><div dir="ltr">On Tue, Apr 14, 2020 at 6:26 PM Stefano Zampini <<a href="mailto:stefano.zampini@gmail.com">stefano.zampini@gmail.com</a>> wrote:<br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div style="overflow-wrap: break-word;">Not true in general when you minimize an objective function as a functional of the parameter only<div>For same methods (Newton for example, gradient descent, etc) the state variables do no enter the minimization, so it should be fine to have complex-valued state variables</div></div></blockquote><div><br></div><div>Yes, this was my thinking. Of course, there are problems which do not work, but I am guessing would could enable</div><div>the complex build at least for experts.</div><div><br></div><div>  Thanks,</div><div><br></div><div>    Matt</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div style="overflow-wrap: break-word;"><div><div><blockquote type="cite"><div>On Apr 15, 2020, at 1:04 AM, Zhang, Hong via petsc-users <<a href="mailto:petsc-users@mcs.anl.gov" target="_blank">petsc-users@mcs.anl.gov</a>> wrote:</div><br><div>



<div style="overflow-wrap: break-word;">
Sorry for the time travel. As far as I know, optimization over complex-valued parameters is not a well-defined problem. I am not sure how you can develop an optimization algorithm for it. Perhaps our optimization experts have better suggestions in this direction.
<div><br>
</div>
<div>The real-valued formulation seems to be more promising to me. The preconditioning is hard, but still doable with fieldsplit as Mark mentioned.</div>
<div><br>
</div>
<div>Hong (Mr.)<br>
<div><br>
<blockquote type="cite">
<div>On Apr 14, 2020, at 1:42 PM, Sajid Ali <<a href="mailto:sajidsyed2021@u.northwestern.edu" target="_blank">sajidsyed2021@u.northwestern.edu</a>> wrote:</div>
<br>
<div>
<div dir="ltr">
<div>
<div dir="ltr">
<div>Hi Hong, <br>
<br>
</div>
Apologies for creating unnecessary confusion by continuing the old thread instead of creating a new one.
<br>
<br>
</div>
<div>While I looked into converting the complex PDE formulation to a real valued formulation in the past hoping for better performance, my concern now is with TAO being incompatible with complex scalars. I would've preferred to keep the complex PDE
 formulation as is (given that I spent some time tuning it and it works well now) for cost function and gradient evaluation while using TAO for the outer optimization loop.
<br>
<br>
</div>
<div>Using TAO has the obvious benefit of defining a multi objective cost function, parametrized as a fit to a series of measurements and a set of regularizers while not having to explicitly worry about differentiating the regularizer or have to think
 about implementing a good optimization scheme. But if it converting the complex formulation to a real formulation would mean a loss of well conditioned forward solve (and increase in solving time itself), I was wondering if it would be better to keep the complex
 PDE formulation and write an optimization loop in PETSc while defining the regularizer via a cost integrand.<br>
</div>
<br>
</div>
Thank You, <br>
<div>
<div dir="ltr">
<div dir="ltr">
<div>
<div dir="ltr">
<div>
<div dir="ltr">
<div style="font-size:12.8px">Sajid Ali | PhD Candidate<br>
</div>
<div style="font-size:12.8px">Applied Physics<br>
</div>
<div style="font-size:12.8px">Northwestern University</div>
<div style="font-size:12.8px"><a href="http://s-sajid-ali.github.io/" target="_blank">s-sajid-ali.github.io</a></div>
</div>
</div>
</div>
</div>
</div>
</div>
</div>
</div>
</div>
</blockquote>
</div>
<br>
</div>
</div>

</div></blockquote></div><br></div></div></blockquote></div><br clear="all"><div><br></div>-- <br><div dir="ltr" class="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div>What most experimenters take for granted before they begin their experiments is infinitely more interesting than any results to which their experiments lead.<br>-- Norbert Wiener</div><div><br></div><div><a href="http://www.cse.buffalo.edu/~knepley/" target="_blank">https://www.cse.buffalo.edu/~knepley/</a><br></div></div></div></div></div></div></div></div>