×

异步并行优化求解器,用于寻找多个最小值。 (英语) Zbl 1398.65123号

摘要:我们提出并分析了一种异步并行优化算法,用于寻找非线性优化问题的多个高质量极小值。在决定从何处开始或继续局部优化运行时,我们的多段算法考虑了所有先前评估的点。理论结果表明,当存在有限多个极小值时,该算法几乎肯定会开始有限次的局部优化运行,并确定每个极小值。该算法适用于一般优化设置,但我们的数值结果侧重于导数不可用的情况。在数值试验中蟒蛇该算法的实现表明可以获得许多极小值(包括全局极小值)的良好近似,并且这种能力可以很好地扩展到额外的资源。我们的实现的解决时间也可以很好地扩展,即使在执行函数求值的时间变化很大的情况下。算法的实现可用位于libEnsemble库中https://github.com/Libensemble/libensembly网站.

MSC公司:

65千5 数值数学规划方法
90C26型 非凸规划,全局优化
90立方 非线性规划
90 C56 无导数方法和使用广义导数的方法
PDF格式BibTeX公司 XML格式引用
全文: 内政部 链接

参考文献:

[1] Audet,C;JE丹尼斯;Digabel,S,网格自适应直接搜索算法的并行空间分解,SIAM J.Optim。,19, 1150-1170, (2008) ·Zbl 1180.90363号 ·doi:10.1137/070707518
[2] Balay,S.、Abhyankar,S.,Adams,M.F.、Brown,J.、Brune,P.、Buschelman,K.、Dalcin,L.、Eijkhout,V.、Gropp,W.D.、Kaushik,D.、Knepley,M.G.、McInnes,L.C.、Rupp,K.,Smith,B.F.、Zampini,S.和Zhang,H.:PETSc网页(2017年)。http://www.mcs.anl.gov/petsc
[3] Besserud,K.,Cotten,J.:建筑基因组学,硅+皮肤:生物过程和计算。载:《建筑计算机辅助设计协会第28届年会论文集》,第978-989页(2008年)
[4] 洞穴,RJ;伯克,K;Castner,EW,香豆素151和香豆素120基态和激发态的理论研究,J.Phys。化学。A、 1069294-9305(2002)·doi:10.1021/jp026071x
[5] 阿联酋库斯托迪奥;Madeira,JFA,GLODS:使用直接搜索进行全局和局部优化,J.Glob。优化。,62, 1-28, (2015) ·Zbl 1328.90161号 ·doi:10.1007/s10898-014-0224-9
[6] 达林,L;帕斯,R;斯托蒂,M;D'Elia,J,《MPI for python:性能改进和MPI-2扩展》,J.Parallel Distrib.Comput。,68, 655-662, (2008) ·doi:10.1016/j.jpdc.2007.09.005
[7] Easterling,DR;沃森,LT;马迪根,马里兰州;卡斯尔,BS;Trosset,MW,具有很多极小值的函数的并行确定性和随机全局最小化,计算。最佳方案。申请。,57, 469-492, (2014) ·Zbl 1304.90162号 ·doi:10.1007/s10589-013-9592-1
[8] 加西亚·帕洛马雷斯,UM;Rodríguez,JF,无约束极小化的新序列和并行无导数算法,SIAM J.Optim。,13, 79-96, (2002) ·Zbl 1049.90133号 ·doi:10.1137/S1052623400370606
[9] 加维亚诺,M;德国科瓦索夫;Lera,D;谢尔盖耶夫,YD,《算法829:生成具有已知局部和全局极小值的测试函数类以进行全局优化的软件》,ACM-Trans。数学。软质。,29, 469-480, (2003) ·兹比尔1068.90600 ·数字对象标识代码:10.1145/962437.962444
[10] Gheribi,AE;罗贝林,C;Digabel,S;Audet,C;Pelton,AD,使用factsage软件和数据库以及网格自适应直接搜索算法计算液相线表面上的所有局部极小值,J.Chem。热电偶。,43, 1323-1330, (2011) ·doi:10.1016/j.jct.2011年3月21日
[11] 灰色,佐治亚州;Kolda,TG,算法856:APPSPACK 4.0:无导数优化的异步并行模式搜索,ACM Trans。数学。软质。,32, 485-507, (2006) ·Zbl 1230.90196号 ·数字对象标识代码:10.1145/1163641.1163647
[12] Hansen,N.:CMA-ES。网址:https://www.lri.fr/hansen/cmaes_inmatlab.html matlab。2016年11月访问
[13] 汉森,N;米勒,SD;Koumoutsakos,P,利用协方差矩阵自适应(CMA-ES)降低非自治进化策略的时间复杂性,Evol。计算。,11, 1-18, (2003) ·doi:10.1162/106365603321828970
[14] 何,J;Verstak,A;Sosonkina,M;Watson,L,《大规模并行DIRECT第2部分的性能建模和分析》,《国际高性能计算杂志》。申请。,23, 29-41, (2009) ·数字对象标识代码:10.1177/109434208098463
[15] 何,J;Verstak,A;沃森,L;Sosonkina,M,大规模并行DIRECT第1部分的性能建模和分析,国际高性能计算杂志。申请。,23, 14-28, (2009) ·doi:10.1177/109434208098462
[16] 何,J;Verstak,A;沃森,LT;Sosonkina,M,DIRECT,Comput的大规模并行版本的设计和实现。最佳方案。申请。,40, 217-245, (2007) ·Zbl 1181.90138号 ·doi:10.1007/s10589-007-9092-2
[17] PD霍夫;科尔达,TG;Torczon,VJ,非线性优化的异步并行模式搜索,SIAM J.Sci。计算。,23, 134-156, (2001) ·Zbl 0990.65067号 ·doi:10.137/S1064827599365823
[18] Johnson,S.G.:NLopt非线性优化包。http://ab-initio.mit.edu/nlopt(2017年)
[19] Jones博士;珀顿,CD;Stuckman,BE,无利普希茨常数的利普希兹优化,J.Optim。理论应用。,79, 157-181, (1993) ·Zbl 0796.49032号 ·doi:10.1007/BF00941892
[20] 拉尔森,J.:libEnsemble。https://github.com/Libensemble/libensembly网站(2017年)
[21] 拉尔森,J;Wild,SM,寻找多个局部极小值的批处理无导数算法,Optim。工程师,17205-2282016·Zbl 1364.90363号 ·doi:10.1007/s11081-015-9289-7
[22] 刘齐,G;Truempha,K,使用NOMAD和线搜索的非光滑问题的并行混合优化方法,计算。申请。数学。,(2017) ·Zbl 1409.90190号 ·doi:10.1007/s40314-017-0505-2
[23] 莫雷,JJ;Wild,SM,基准无导数优化算法,SIAM J.Optim。,20, 172-191, (2009) ·兹比尔1187.90319 ·doi:10.1137/080724083
[24] Olsson,P.M.:《网络优化和并行无导数优化方法》,博士论文。林雪平大学。http://liu.diva-portal.org/shash/get/diva2:695431/FULLTEXT02.pdf (2014)
[25] Plantenga,T.D.:HOPSPACK 3.0用户手册,10月技术报告。阿尔伯克基桑迪亚国家实验室(2009)
[26] Powell,M.J.D.:无导数有界约束优化的BOBYQA算法,技术报告。DAMTP 2009/NA06,剑桥大学应用数学和理论物理系(2009)
[27] AHG,Rinnooy Kan;Timmer,GT,随机全局优化方法,第一部分:聚类方法,数学。程序。,39, 27-56, (1987) ·兹比尔0634.90066 ·doi:10.1007/BF02592070
[28] AHG,Rinnooy Kan;Timmer,GT,随机全局优化方法,第二部分:多级方法,数学。程序。,39, 57-78, (1987) ·Zbl 0634.90067号 ·doi:10.1007/BF02592071
[29] Ross,S.M.:概率第一课程,第8版。Prentice Hall,上鞍河(2009)
[30] Törn,A.,Zilinskas,A.:全局优化。施普林格,纽约(1989)。https://doi.org/10.1007/3-540-50871-6 ·Zbl 0752.90075号 ·doi:10.1007/3-540-50871-6
[31] Vanden Berghen,F.:CONDOR:连续、高计算负载、噪声目标函数的约束、非线性、无导数并行优化程序,博士论文。布鲁塞尔自由大学。http://www.applied-mathematics.net/optimization/thesis_optimization.pdf (2004)
[32] 瓦兹,AIF;Vicente,LN,用于有界约束全局优化的粒子群模式搜索方法,J.Glob。优化。,39, 197-219, (2007) ·Zbl 1180.90252号 ·doi:10.1007/s10898-007-9133-5
[33] Wild,S.M.:《计算昂贵函数的无导数优化算法》,博士论文。康奈尔大学。http://ecommons.cornell.edu/handle/1813/11248 (2009)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。