×

昂贵函数全局优化的并行径向基函数方法。 (英语) Zbl 1178.90279号

摘要:我们介绍了一个使用响应面模型对计算开销较大的函数进行并行全局优化的主-辅框架。特别地,我们将两种用于全局优化的径向基函数(RBF)方法并行化,即通过H.-M.古特曼[J.Glob.Optim.19,第3期,201–227(2001年;兹比尔0972.90055)](Gutmann RBF)和RBF方法雷吉斯C.A.鞋匠[J.Glob.Optim.31,第1期,153–171(2005年;Zbl 1274.90511号)](CORS-RBF)。我们对这些算法进行了修改,使其能够生成多个点,以便并行进行同时评估。我们比较了两种并行RBF方法与基于并行多段导数的算法、并行多段无导数信赖域算法和并行进化算法在11个测试问题和6维地下水生物修复应用中的性能。结果表明,在大多数测试问题上,两种并行RBF算法总体上优于其他三种算法。此外,这两种并行RBF算法在所考虑的测试问题上具有可比较的性能。最后,我们报告了使用少量处理器时两种并行RBF算法的良好加速比。

MSC公司:

90C26型 非凸规划,全局优化
90立方 非线性规划
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 巴尔,R.S。;Hickman,B.L.,用并行算法报告计算实验:问题、措施和专家意见,ORSA计算杂志,5,1,2-18(1993)·Zbl 0775.65029号
[2] 比约克曼,M。;Holmström,K.,使用径向基函数对代价高昂的非凸函数进行全局优化,优化与工程,1,4373-97(2000)·Zbl 1035.90061号
[3] 布克·A·J。;丹尼斯·J·E。;P.D.弗兰克。;Serafini,D.B。;托克森,V。;Trosset,M.W.,通过代理优化昂贵函数的严格框架,结构优化,17,1,1-13(1999)
[4] 盒子,G.E.P。;Draper,N.R.,《经验模型构建和响应面》(1987),John Wiley&Sons,Inc.:John Willey&Sons公司,纽约·Zbl 0482.62065号
[5] Branin,F.H.,寻找联立非线性方程多重解的广泛收敛方法,IBM研究发展杂志,16504-522(1972)·兹伯利0271.65034
[6] 布雷克尔曼斯,R。;德莱森,L。;哈默斯,H。;den Hertog,D.,《涉及昂贵函数评估的约束优化:序贯方法》,《欧洲运筹学杂志》,160,121-138(2005)·Zbl 1067.90151号
[7] Buhmann,M.D.,径向基函数(2003),剑桥大学出版社:剑桥大学出版社英国·Zbl 1004.65015号
[8] 伯德·R·H。;Dert,C.L。;林诺伊·坎,A.H.G。;Schnabel,R.B.,全局优化的并发随机方法,数学规划,46,1-29(1990)·Zbl 0693.90081号
[9] Cantu-Paz,E.,高效和准确的并行遗传算法(2000),Kluwer:Kluwer-Boston·Zbl 0963.68164号
[10] A.R.康涅狄格州。;Scheinberg,K。;Toint,Ph.L.,无导数无约束非线性优化的最新进展,数学规划,79,3,397-414(1997)·Zbl 0887.90154号
[11] Cressie,N.,《空间数据统计》(1993),John Wiley:John Wiley纽约
[12] Dixon,L.C.W。;Jha,M.,全局优化的并行算法,《优化理论与应用杂志》,79,2,385-395(1993)·Zbl 0797.90090号
[13] Dixon,L.C.W。;Szegö,G.,《全局优化问题:导论》,(Dixon,L.C.W.;Szegó,G,《走向全局优化2》(1978),北荷兰:北荷兰阿姆斯特丹),1-15
[14] El-Beltagy,文学硕士。;Nair,P.B。;Keane,A.J.,《计算昂贵问题进化优化的元建模技术:承诺与限制》,(Banshaf,W.;Daida,J.;Eiben,A.E.;Garzon,M.H.;Honavar,V.;Jakiela,M.;Smith,R.E.,《遗传与进化计算会议论文集》(GECCO99)(1999),Morgan Kaufman),196-203
[15] Friedman,J.,多元自适应回归样条,《统计年鉴》,19,1,1-141(1991)·Zbl 0765.62064号
[16] 吉尔摩,P。;Kelley,C.T.,用于优化具有许多局部极小值的函数的隐式滤波算法,SIAM优化杂志,5,269-285(1995)·Zbl 0828.65064号
[17] Giunta,A.A。;巴拉巴诺夫,V。;哈伊姆,D。;格罗斯曼,B。;梅森,W.H。;Watson,L.T。;Haftka,R.T.,《利用实验理论设计和响应面建模进行飞机多学科设计优化》,《航空杂志》,101,1008,347-356(1997)
[18] Gutmann,H.M.,《用于全局优化的径向基函数法》,《全局优化杂志》,19,3,201-227(2001)·Zbl 0972.90055号
[19] Gutmann,H.M.,2001年b。用于全局优化的径向基函数方法。英国剑桥大学应用数学和理论物理系博士论文。;古特曼,H.M.,2001b。全局优化的径向基函数方法。英国剑桥大学应用数学和理论物理系博士论文·Zbl 0972.90055号
[20] 霍斯特,R。;帕尔达洛斯,P.M。;Thoai,N.V.,《全局优化导论》(2000),Kluwer:Kluwer-Dordrecht·Zbl 0966.90073号
[21] Jones,D.R.,1996年。使用响应曲面进行全局优化。在加拿大维多利亚州第五届SIAM优化会议上发表。;Jones,D.R.,1996年。使用响应曲面进行全局优化。在加拿大维多利亚州第五届SIAM优化会议上发表。
[22] Jones,D.R。;Schonlau,M。;Welch,W.J.,《昂贵黑盒函数的高效全局优化》,《全局优化杂志》,13,4,455-492(1998)·Zbl 0917.90270号
[23] 考夫曼,M。;巴拉巴诺夫,V。;Burgee,S.L。;Giunta,A.A。;格罗斯曼,B。;哈夫特卡,R.T。;梅森,W.H。;Watson,L.T.,HSCT设计中机翼结构重量的可变复杂响应面近似,计算力学,18,2,112-126(1996)·Zbl 0878.73048号
[24] Kelley,C.T.,优化迭代方法(1999),SIAM:SIAM Philadelphia·兹比尔0934.90082
[25] Koehler,J.R.,Owen,A.B.,1996年。计算机实验。收录于:Ghosh,S.,Rao,C.R.(编辑),《统计手册》,第13卷:计算机实验的设计与分析,阿姆斯特丹北荷兰特,第261-308页。;Koehler,J.R.,Owen,A.B.,1996年。计算机实验。收录于:Ghosh,S.,Rao,C.R.(编辑),《统计手册》,第13卷:计算机实验的设计与分析,阿姆斯特丹北荷兰特,第261-308页·Zbl 0919.62089号
[26] Lai,T.H。;Sahni,S.,并行分枝定界算法中的异常,计算机协会通讯,27594-602(1984)·Zbl 0587.68032号
[27] Locatelli,M.,《一维全局优化的贝叶斯算法》,《全局优化杂志》,第10期,第57-76页(1997年)·Zbl 0871.90087号
[28] 马拉齐,M。;Nocedal,J.,无导数优化的楔形信赖域方法,数学规划,A系列,91289-305(2002)·兹伯利1049.90134
[29] 明斯克,B.S。;Shoemaker,C.A.,地下水原位生物修复的动态优化控制,《水资源规划与管理杂志》,124,3,149-161(1998)
[30] Myers,R.H。;Montgomery,D.C.,《响应面方法:使用设计实验优化工艺和产品》(1995年),John Wiley&Sons Inc.:John Willey&Sons Inc。纽约·Zbl 1161.62392号
[31] Nocedal,J。;Wright,S.J.,《数值优化》(1999),Springer:Springer New York·Zbl 0930.65067号
[32] 鲍威尔,M.J.D.,1992年。1990年径向基函数近似理论。在:Light,W.(编辑),《数值分析进展》,第2卷:小波、细分算法和径向基函数,牛津大学出版社,第105-210页。;鲍威尔,M.J.D.,1992年。1990年径向基函数近似理论。Light,W.(编辑),《数值分析进展》,第2卷:小波、细分算法和径向基函数,牛津大学出版社,第105-210页·Zbl 0787.65005号
[33] Powell,M.J.D.,剑桥大学关于径向基函数的最新研究,(Müller,M.;Buhmann,M.、Mache,D.;Felten,M.,近似理论的新发展,国际数值数学丛书,第132卷(1999),Birkhauser Verlag:Birkhauser Verlag Basel),215-232·Zbl 0958.41501号
[34] Powell,M.J.D.,UOBYQA:二次近似无约束优化,数学规划,92,555-582(2002)·Zbl 1014.65050号
[35] Powell,M.J.D.,《无导数无约束极小化的信赖域方法》,《数学规划》,97,605-623(2003)·Zbl 1106.90382号
[36] Regis,R.G。;Shoemaker,C.A.,使用径向基函数对昂贵黑箱函数进行约束全局优化,《全局优化杂志》,31153-171(2005)·兹比尔1274.90511
[37] Regis,R.G.,Shoemaker,C.A.,2006年。用于全局优化的径向基函数方法的改进策略。全球优化杂志。doi:10.1007/s10898-006-9040-1;Regis,R.G.,Shoemaker,C.A.,2006年。用于全局优化的径向基函数方法的改进策略。全球优化杂志。doi:10.1007/s10898-006-9040-1·Zbl 1149.90120号
[38] Sacks,J。;Welch,W.J。;米切尔·T·J。;Wynn,H.P.,《计算机实验的设计与分析》,统计科学,4,4,409-435(1989)·Zbl 0955.62619号
[39] Schnabel,R.B.,并行非线性优化的局限性、机遇和挑战,并行计算,21875-905(1995)·Zbl 0875.68172号
[40] Schoen,F.,《全局优化的一大类测试函数》,《全局优化杂志》,33133-137(1993)·兹比尔0772.90072
[41] 鞋匠,C.A。;Willis,M。;张伟。;Gossett,J.,利用卡纳维拉尔角油田现场的数据进行还原脱氯的模型分析,(Magar,V.;Vogel,T.;Aelion,C.;Leeson,A.,《支持生物修复的创新方法》(2001),巴特尔出版社:俄亥俄州哥伦布巴特尔出版社),125-131
[42] Sóbester,A。;Leary,S。;Keane,A.J.,用于近似和优化高保真计算机模拟的并行更新方案,结构和多学科优化,27371-383(2004)
[43] 斯托恩,R。;Price,K.,《差分进化——连续空间上全局优化的一种简单有效的启发式算法》,《全局优化杂志》,11,341-359(1997)·Zbl 0888.90135号
[44] Taylor,S.,《模拟地下水中增强的原位生物降解:生物参数不确定性的模型响应》(《1993年地下水模拟会议论文集》,国际地下水模拟中心,51(1993),Golden:Golden Colorado),(4-51)-(4-60)
[45] Mathworks公司,2004年。用于MATLAB的优化工具箱:用户指南,第3版,马萨诸塞州纳蒂克。;Mathworks公司,2004年。与MATLAB一起使用的优化工具箱:用户指南,第3版,马萨诸塞州纳蒂克。
[46] Torczon,V.,《关于模式搜索算法的收敛性》,SIAM优化杂志,7,1,1-25(1997)·Zbl 0884.65053号
[47] Törn,A。;Ju ilinskas,A.,《全局优化》,《计算机科学讲义》,第350卷(1989年),施普林格出版社:柏林施普林格·Zbl 0752.90075号
[48] 范登·伯根,F。;Bersini,H.,CONDOR,鲍威尔UOBYQA算法的一种新的并行约束扩展:实验结果和与DFO算法的比较,计算与应用数学杂志,181157-175(2005)·Zbl 1072.65088号
[49] Ye,K.Q。;李伟(Li,W.)。;Sudjianto,A.,最优对称拉丁超立方体设计的算法构造,统计规划与推断杂志,90,145-159(2000)·Zbl 1109.62329号
[50] Yoon,J.-H.,1997年。基于进化算法的地下水原位生物修复优化设计。纽约州伊萨卡市康奈尔大学土木与环境工程学院博士论文。;Yoon,J.-H.,1997年。基于进化算法的地下水原位生物修复优化设计。纽约州伊萨卡市康奈尔大学土木与环境工程学院博士论文。
[51] Yoon,J.-H。;Shoemaker,C.A.,《地下水生物修复优化方法的比较》,《水资源规划与管理杂志》,125,54-63(1999)
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。