×

多代理技术辅助的高效全局优化算法。 (英语) Zbl 1275.90072号

摘要:基于代理的优化以周期进行。每个周期包括分析大量设计、拟合代理、基于代理执行优化,最后分析候选解决方案。使用替代不确定性估计器指导选择下一个采样候选的算法是现成的,例如有效的全局优化(EGO)算法。然而,当主要关注的是墙锁时间(而不是模拟次数)并且模拟可以并行运行时,一次添加一个点可能效率不高。此外,对不确定性估计的需要限制了类EGO策略替代通常使用此类估计实现的策略(例如克里金和多项式响应面)。我们提出了多代理高效全局优化(MSEGO)算法,该算法在多代理的帮助下,每个优化周期增加几个点。我们将不确定性估计从一个替代项导入到另一个,以允许使用不提供不确定性估计的替代项。该方法在九个基本代理的三个分析示例上进行了测试,包括克里金、径向基神经网络、线性Shepard和六个不同的支持向量回归实例。我们发现,即使使用导入的不确定性估计,MSEGO也能很好地工作,在EGO所需的优化周期的一小部分中提供更好的结果。

MSC公司:

90C26型 非凸规划,全局优化
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Wang L.,Shan S.,Wang G.G.:昂贵黑盒函数全局优化的模式追踪抽样方法。工程优化。36(4), 419-438 (2004) ·doi:10.1080/03052150410001686486
[2] Kleijnen J.P.C.、Sanchez S.M.、Lucas T.W.、Cioppa T.M.:设计模拟实验勇敢新世界的用户指南。信息J.计算。17(3),263-289(2005)·Zbl 1239.62092号 ·doi:10.1287/ijoc.1050.0136
[3] Sóbester A.,Leary S.,Keane A.:基于全局响应面近似模型的优化策略设计。J.全球。最佳方案。33(1), 31-59 (2005) ·Zbl 1137.90743号 ·doi:10.1007/s10898-004-6733-1
[4] Simpson,T.W.,Toropov,V.,Balabanov,V.、Viana,F.A.C.:多学科设计优化中计算机实验的设计和分析:对我们取得或未取得进展的回顾。第十二届AIAA/ISSMO多学科分析与优化会议,AIAA-2008-5802。加拿大不列颠哥伦比亚省维多利亚市AIAA(2008年)·Zbl 0888.90135号
[5] Forrester A.I.J.,Keane A.J.:基于代理优化的最新进展。掠夺。Aerosp.航空公司。科学。45(1-3), 50-79 (2009) ·doi:10.1016/j.paeroci.2008.11.001
[6] Viana,F.A.C.,Gogu,C.,Haftka,R.T.:充分利用代理模型:交易技巧。参加:ASME 2010国际设计工程技术会议和工程中的计算机和信息会议,DETC2010-28813,ASME,蒙特利尔,QC,加拿大(2009)·Zbl 0917.90270号
[7] Jones D.R.、Schonlau M.、Welch W.J.:昂贵黑盒函数的高效全局优化。J.全球。最佳方案。13(4), 455-492 (1998) ·Zbl 0917.90270号 ·doi:10.1023/A:1008306431147
[8] Jin,R.,Chen,W.,Sudjianto,A.:关于工程设计中全局元建模的顺序抽样。在:ASME 2002国际设计工程技术会议和工程中的计算机与信息会议,DETC2002-34092。ASME,蒙特利尔,QC,加拿大(2002年)·Zbl 1075.68632号
[9] Huang D.,Allen T.,Notz W.,Zeng N.:通过序列kriging元模型对随机黑盒系统进行全局优化。J.全球。最佳方案。34(3), 441-466 (2006) ·邮编1098.90097 ·doi:10.1007/s10898-005-2454-3
[10] Henkenjohann N.,Kunert J.:基于多元期望改进准则的高效顺序优化方法。资格。工程19(4),267-280(2007)·doi:10.1080/08982110701621312
[11] Ponweiser,W.,Wagner,T.,Vincze,M.:集群多重广义期望改进:替代模型的新填充抽样标准。摘自:IEEE进化计算大会,第3514-3521页。IEEE,香港(2008)·Zbl 0415.62011号
[12] Jones D.R.:基于响应曲面的全局优化方法分类。J.全球。最佳方案。21(4), 345-383 (2001) ·Zbl 1172.90492号 ·doi:10.1023/A:1012771025575
[13] 金斯堡,D。;勒里奇,R。;Carraro,L。;Tenne,Y.(编辑);Goh,C.(编辑),Kriging非常适合并行优化,131-162(2010),海德堡·doi:10.1007/978-3-642-10701-66
[14] Samad A.、Kim K.Y.、Goel T.、Haftka R.T.、Shyy W.:轴流压缩机叶片形状优化的多重替代建模。J.推进器。电源24(2),302-310(2008)·数字对象标识代码:10.2514/1.28999
[15] Viana,F.A.C.,Haftka,R.T.:使用多个代理进行元建模。摘自:第七届ASMO-UK ISSMO国际工程设计优化会议,第1-18页。英国巴斯ISSMO(2008)·Zbl 0972.90055号
[16] Gorissen D.,Dhaene T.,de Turck F.:全球代理建模的进化模型类型选择。J.马赫。学习。2039-278年第10(1)号决议(2009年)·Zbl 1235.62008号
[17] Cho Y.C.、Jayaraman B.、Viana F.A.C.、Haftka R.T.、Shy W.:表征介质阻挡放电等离子体致动器性能的代理建模。国际期刊计算。流体动力学。24(7), 281-301 (2010) ·Zbl 1271.76392号 ·doi:10.1080/10618562.2010.521129
[18] Gutmann H.M.:用于全局优化的径向基函数方法。J.全球。最佳方案。19(3), 201-227 (2001) ·Zbl 0972.90055号 ·doi:10.1023/A:1011255519438
[19] Stein M.L.:空间数据插值:克里金的一些理论。柏林施普林格(1999)·兹比尔0924.62100 ·doi:10.1007/978-1-4612-1494-6
[20] Martin J.D.,Simpson T.W.:使用克里格模型来近似确定性计算机模型。《美国农业协会期刊》第43卷(4),第853-863页(2005年)·doi:10.2514/1.8650
[21] 山本J.K.:普通克里金估计可靠性的另一种度量方法。数学。地质。32(4), 489-509 (2000) ·Zbl 0971.86006号 ·doi:10.1023/A:1007577916868
[22] den Hertog D.、Kleijnen J.P.C.、Siem A.Y.D.:通过自举估计的正确kriging方差。《运营杂志》。Res.Soc.57(4),400-409(2006)·Zbl 1086.62042号 ·doi:10.1057/palgrave.jors.2601997
[23] Kleijnen,J.P.C.,van Beers,W.C.M.,van Nieuwenhuyse,I.:通过自举kriging在高效全局优化方面的预期改进。J.全球。最佳方案。(在线获取),第1-15页(2011年)·Zbl 1254.90176号
[24] Forrester A.I.J.、Sóbester A.、Keane A.J.:《通过替代建模进行工程设计:实用指南》。威利,纽约(2008)·doi:10.1002/9780470770801
[25] Forrester A.I.J.、Sóbester A.、Keane A.J.:通过代理建模实现多精度优化。程序。R.Soc.A数学。物理学。工程科学。463(2088), 3251-3269 (2007) ·Zbl 1142.90489号 ·doi:10.1098/rspa.2007.1900
[26] Fang H.,Horstemeyer M.F.:径向基函数的全局响应近似。工程优化。38(4),407-424(2006)·doi:10.1080/03052150500422294
[27] Goel T.,Stander N.:比较选择径向基函数网络拓扑的三个错误标准。计算。方法应用。机械。工程198(27-29),2137-2150(2009)·Zbl 1227.74126号 ·doi:10.1016/j.cma.2009.02.016
[28] Berry M.W.,Minser K.S.:算法798:使用改进的Shepard方法进行高维插值。ACM事务处理。数学。柔和。25(3), 353-366 (1999) ·Zbl 0963.65015号 ·doi:10.1145/326147.326154
[29] Thacker W.I.、Zhang J.、Watson L.T.、Birch J.B.、Iyer M.A.、Berry M.W.:算法905:Sheppack:离散多元数据插值的改进Shepard算法。ACM事务处理。数学。柔和。37(3), 1-20 (2010) ·Zbl 1364.65028号 ·doi:10.1145/1824801.1824812
[30] Cristianini N.,Shawe-Taylor J.:支持向量机和其他基于内核的学习方法简介。剑桥大学出版社,剑桥(2000)·Zbl 0994.68074号 ·doi:10.1017/CBO9780511801389
[31] Smola A.J.,Schölkopf B.:支持向量回归教程。统计计算。14(3), 199-222 (2004) ·doi:10.1023/B:STCO.00035301.49549.88文件
[32] Viana,F.A.C.,Haftka,R.T.:将不确定性估计从一个代理引入到另一个代理。第50届AIAA/ASME/ASCE/AHS/ASC结构、结构动力学和材料会议,第AIAA-2009-2237页。AIAA,美国加利福尼亚州棕榈泉市(2009年)·Zbl 1172.90492号
[33] Viana F.A.C.、Haftka R.T.、Steffen V.Jr:多重代理:交叉验证误差如何帮助我们获得最佳预测值。结构。多学科。最佳方案。39(4), 439-457 (2009) ·doi:10.1007/s00158-008-0338-0
[34] Lophaven,S.N.,Nielsen,H.B.,Söndergaard,J.:Dace-a matlab-kriging工具箱。丹麦技术大学技术代表IMM-TR-2002-12(2002年)。可在网址:http://www2.imm.dtu.dk/hbn/dace/·邮编1098.90097
[35] MathWorks贡献者:MATLAB技术计算语言。MathWorks,Inc,Natick,MA,USA,7.0版,14版。(2004)
[36] Jekabsons,G.:RBF:MATLAB/OCTAVE的径向基函数插值。拉脱维亚里加技术大学,1.1版edn。(2009). 可在http://www.cs.rtu.lv/jekabsons/regression.html ·Zbl 1271.76392号
[37] 维亚纳,F.A.C.:SURROGATES工具箱用户指南。美国佛罗里达州盖恩斯维尔,版本3.0 edn。(2011). 可在http://sites.google.com/site/felipeacviana/surrogatestolbox ·Zbl 1172.90492号
[38] Gunn,S.R.:用于分类和回归的支持向量机。英国南安普顿大学技术代表(1997年)。可在http://www.isis.ecs.soton.ac.uk/resources/svminfo/
[39] Roustant,O.Ginsbourger,D.,Deville,Y.:DiceKriging,DiceOptim:通过基于kriging的元建模和优化分析计算机实验的两个R包。法国圣埃蒂安国立矿山管理学院和瑞士伯尔尼大学(2010年)。可在http://hal.archives-ouvertes.fr/hal-00495766/
[40] Cherkasky V.,Ma Y.:支持向量机回归参数和噪声估计的实际选择。神经网络。17(1), 113-126 (2004) ·Zbl 1075.68632号 ·doi:10.1016/S0893-6080(03)00169-2
[41] Sasena,M.J.:通过平滑样条和克里格元模型优化计算机模拟。美国密歇根州安娜堡密歇根大学硕士论文(1998年)·Zbl 1194.74259号
[42] Dixon,L.C.W.,Szegö,G.P.:走向全局优化2。北荷兰,阿姆斯特丹(1978)
[43] McKay M.D.、Beckman R.J.和Conover W.J.:从计算机代码中选择输入变量值的三种方法的比较。技术计量学21(2),239-245(1979)·Zbl 0415.62011号
[44] Price K.V.、Storn R.M.、Lampinen J.A.:差分进化:全局优化的实用方法。施普林格,纽约(2005年)·Zbl 1186.90004号
[45] Storn R.,Price K.:差分进化——一种简单有效的启发式算法,用于连续空间上的全局优化。J.全球。最佳方案。11(4), 341-359 (1997) ·Zbl 0888.90135号 ·doi:10.1023/A:1008202821328
[46] Schutte J.F.,Haftka R.T.,Fregly B.J.:使用多个独立优化提高全局收敛概率。国际期刊数字。方法工程71(6),678-702(2007)·Zbl 1194.74259号 ·doi:10.1002/nme.1960
[47] Viana F.A.C.,Haftka R.T.:交叉验证可以估计预测方差与误差的相关性。AIAA J.47(9),2266-2270(2009)·数字对象标识代码:10.2514/1.42162
[48] Meckesheimer M.、Booker A.J.、Barton R.R.、Simpson T.W.:计算廉价元模型评估策略。美国汽车协会J.40(10),2053-2060(2002)·数字对象标识代码:10.2514/2.1538
[49] Picard R.R.,Cook R.D.:回归模型的交叉验证。《美国统计协会期刊》79(387),575-583(1984)·Zbl 0547.62047号 ·doi:10.1080/01621459.1984.10478083
[50] Varma S.、Simon R.:使用交叉验证进行模型选择时的误差估计偏差。BMC生物信息。7(91), 1290-1300 (2006)
[51] Myers R.H.:经典和现代回归及其应用。达克斯伯里出版社,贝尔蒙特(2000)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。