×

利用克里格模型结合偏最小二乘法对高维约束问题进行有效的全局优化。 (英语) Zbl 1523.90279号

工程优化。 50,第12期,2038-2053(2018); 更正同上50,第12号,x(2018)。
摘要:在许多工程优化问题中,由于运行一个高保真度数值模拟的计算成本,函数评估的数量往往非常有限。在这种情况下,直接在计算模型上使用经典优化算法(如基于导数的算法或进化算法)是不合适的。解决这一挑战的常见方法是使用黑盒代理建模技术。最流行的基于代理的优化算法是高效全局优化(EGO)算法,这是一种迭代采样算法,每次迭代添加一个(或多个)点。该算法通常基于填充采样准则,称为预期改进,它代表了有希望区域和不确定区域之间的权衡。许多研究都表明了EGO的有效性,尤其是当输入变量数量相对较低时。然而,它在高维问题上的性能仍然很差,因为所使用的克里格模型构建起来很耗时。为了解决这个问题,本文介绍了一种适用于高维问题的基于代理的优化方法。该方法首先使用“定位区域极值”标准,其中包括最小化代理模型,同时最大化预期改进标准。然后,用KPLS(+K)模型(克里金与偏最小二乘法相结合)代替克里金模型,更适合于高维问题。最后,通过与一些分析函数以及基准汽车问题“MOPTA08”的12维和50维实例的文献中现有的替代方法进行比较,验证了所提出的方法。

MSC公司:

90C26型 非凸规划,全局优化
60G25型 预测理论(随机过程方面)
62J05型 线性回归;混合模型
62M40型 随机字段;图像分析
65千5 数值数学规划方法
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Abramson,医学硕士。;Audet,C.,网格自适应直接搜索到二阶平稳点的收敛性,SIAM优化杂志,17,2,606-619(2006)·兹比尔1174.90877 ·doi:10.1137/050638382
[2] 阿尔贝托,P.R。;González,F.G.,对称正定矩阵的偏最小二乘回归,哥伦比亚国家统计局,36,1,177-192(2012)·Zbl 06257242号
[3] Audet,C。;Dennis,J.E.Jr.,《约束优化的网格自适应直接搜索算法》,SIAM优化杂志,17,1,188-217(2006)·Zbl 1112.90078号 ·数字对象标识代码:10.1137/040603371
[4] Bouhlel,医学硕士。;北卡罗来纳州巴托利。;Morlier,J。;Otsmane,A.,通过偏最小二乘法估计高维问题克里格模型超参数的改进方法,工程数学问题,2016(2016)·Zbl 1400.62110号 ·doi:10.1155/2016/6723410
[5] Bouhlel,医学硕士。;北卡罗来纳州巴托利。;奥茨曼,A。;Morlier,J.,通过偏最小二乘降维改进高维设计模型的克里格替代,结构和多学科优化,53,5,935-952(2016)·doi:10.1007/s00158-015-1395-9
[6] 陈,X。;Diez,M。;Kandasamy,M。;张,Z。;坎帕纳,E.F。;Stern,F.,通过降维实现形状设计的高精度全局优化,元模型和确定性粒子群,工程优化,47,4,473-494(2015)·doi:10.1080/03052115X.2014.895340
[7] 骑士,C。;Ginsbourger,D.,《快速计算多点预期改进及其在批量选择中的应用》(2013),柏林,海德堡:施普林格,柏林,海德堡
[8] Andrew R.康涅狄格。;卡蒂亚·申伯格;Vicente,Luis N.,《无导数优化导论》(2009),宾夕法尼亚州费城:工业和应用数学学会,宾夕法尼亚州,费城·兹比尔1163.49001
[9] Cressie,N.,《空间预测和普通克里格法》,数学地质学,20,4,405-421(1988)·Zbl 0970.86517号 ·doi:10.1007/BF00892986
[10] 费利奥特,P。;Bect,J。;Vazquez,E.,《约束单目标和多目标优化的贝叶斯方法》,《全局优化杂志》,67,1-2,97-133(2016)·兹比尔139090441 ·doi:10.1007/s10898-016-0427-3
[11] Forrester,A.I.J。;Sóbester,A。;Keane,A.J.,《缺失数据的优化》,伦敦皇家学会学报A:数学、物理和工程科学,4622067935-945(2006)·兹比尔1149.74385 ·doi:10.1098/rspa.2005.1608
[12] 福雷斯特·A.I.、索贝斯特·A.和基恩·A.J.,2008年。通过代理建模进行工程设计:实用指南。新泽西州霍博肯:威利。
[13] 弗兰克,I.E。;Friedman,J.H.,《一些化学计量学回归工具的统计观点》,技术计量学,35,109-148(1993)·Zbl 0775.62288号 ·doi:10.1080/00401706.1993.10485033
[14] Goovaerts,P.,《用于自然资源评估的地质统计学(应用地质统计学)》(1997),纽约:牛津大学出版社,纽约
[15] Gramacy,R.B。;格雷,G.A。;LeDigabel,S。;Lee,H.K.H。;Ranjan,P。;威尔斯,G。;Wild,S.M.,《黑箱约束优化的增广拉格朗日模型》,技术计量学,58,1,1-11(2016)
[16] 哈夫特卡,R.T。;维拉努埃瓦,D。;Chaudhuri,A.,《具有昂贵功能的并行代理辅助全局优化——调查、结构和多学科优化》,54,1,3-13(2016)·doi:10.1007/s00158-016-1432-3
[17] Helland,I.S.,《关于偏最小二乘回归的结构》,《统计学中的通信——模拟和计算》,第17期,第581-607页(1988年)·Zbl 0695.62167号 ·doi:10.1080/03610918808812681
[18] Hickernell,F.J.和Yu,Y.X.,1997年。“用于全局优化的简单多重启动算法”,《运筹学事务1(2):1-11》。
[19] Jin,R。;Chen,W。;Sudjianto,A.,《构建计算机实验优化设计的有效算法》,《统计规划与推断杂志》,134,1,268-287(2005)·Zbl 1066.62075号 ·doi:10.1016/j.jspi.2004.02.014
[20] Jones,D.R.,《基于响应曲面的全局优化方法分类》,《全局优化杂志》,21,4,345-383(2001)·Zbl 1172.90492号 ·doi:10.1023/A:1012771025575
[21] Jones,D.R.2008年。“汽车工业中的大规模多学科质量优化”,发表于8月20日加拿大安大略省建模与优化:理论与应用(MOPTA)会议上的论文。
[22] Jones,D.R。;Schonlau,M。;Welch,W.J.,《昂贵黑盒函数的高效全局优化》,《全局优化杂志》,13,4,455-492(1998)·Zbl 0917.90270号 ·doi:10.1023/A:1008306431147
[23] J.Kennedy和R.C.Eberhart,1995年。“粒子群优化”,摘自1942-1948年IEEE神经网络国际会议论文集。新泽西州皮斯卡塔韦:IEEE。
[24] Koehler,J.R.和Owen,A.B.,1996年。《计算机实验》,统计手册13:261-308·兹比尔0919.62089
[25] Krige,D.G.,《威特沃特斯兰德一些基本矿山估价问题的统计方法》,《化学、冶金和采矿学会杂志》,52,119-139(1951)
[26] Kyriacou,S.A。;Asouti,V.G。;Giannakoglou,K.C.,《高效PCA-驱动EA和元模型辅助EA在涡轮机械中的应用,工程优化》,46,7,895-911(2014)
[27] Laarhoven,P.J。;Aarts,E.H.L.,《模拟退火:理论与应用》(1987),马萨诸塞州诺威尔市,美国:克鲁沃学术出版社·Zbl 0643.65028号
[28] Li,Y.,Wu,Y.、Zhao,J.和Chen,L.,2016年。“具有不可行初始点的昂贵黑箱函数的基于克里格的约束全局优化算法”,《全局优化杂志》67(1-2):343-366·Zbl 1359.90105号
[29] 列姆·R·P。;马德尔,C.A。;Martins,J.R.R.A.,飞机任务分析空气动力学性能预测的替代模型和专家组合,航空航天科学与技术,43,126-151(2015)·doi:10.1016/j.ast.2015.02.019
[30] Liu,H.,Xu,S.,Chen,X.,Wang,X.和Ma,Q.,2016年。“通过直接类型约束处理技术和自适应元建模策略进行约束全局优化”,《结构和多学科优化》55(1):155-177。doi:。
[31] 刘齐,G。;Lucidi,S。;Sciandone,M.,非线性约束优化的无惩罚导数方法,SIAM优化杂志,20,5,2614-2635(2010)·Zbl 1223.65045号 ·doi:10.1137/090750639
[32] Ollar,J.、Mortish,C.、Jones,R.、Sienz,J.和Toropov,V.,2016年。“良好条件克里金元模型的基于梯度的超参数优化”,《结构与多学科优化》55(6):2029-2044。
[33] 佩德雷戈萨,F。;瓦罗佐,G。;Gramfort,A。;米歇尔,V。;Thirion,B.公司。;O.格栅。;Blondel,M.,Scikit-Learn:Python中的机器学习,《机器学习研究杂志》,第12期,第2825-2830页(2011年)·Zbl 1280.68189号
[34] Picheny,V.、Ginsbourger,D.、Roustant,O.、Haftka,R.T.和Kim,N.,2010年。“精确逼近目标区域的自适应实验设计”,《机械设计杂志》132(7):071008。doi:doi:。
[35] 鲍威尔,M.1994。“通过线性插值对目标函数和约束函数建模的直接搜索优化方法”,《优化和数值分析进展》,Gomez,S.和Hennart,J.P.编辑,51-67。多德雷赫特:施普林格·Zbl 0826.90108号
[36] Regis,R.G.,《涉及昂贵黑盒目标和约束函数的大规模优化的随机径向基函数算法》,计算机与运筹学研究,38,5,837-853(2011)·Zbl 1434.90109号 ·doi:10.1016/j.cor.2010.09.013
[37] Regis,R.G.,《初始点不可行的高维昂贵黑箱问题的径向基函数插值约束优化》,工程优化,46,2,218-243(2014)·doi:10.1080/0305215X.2013.765000
[38] Regis,R.G。;Wild,S.M.,CONORBIT:信赖域中基于径向基函数插值的约束优化,优化方法和软件,32,3,552-580(2017)·兹比尔1367.65091 ·doi:10.1080/10556788.2016.1226305
[39] Sacks,J。;Welch,W.J。;米切尔,W.J。;Wynn,H.P.,《计算机实验的设计与分析》,统计科学,4,4409-435(1989)·Zbl 0955.62619号 ·doi:10.1214/ss/1177012413
[40] 萨塞纳,M。;帕帕兰布罗斯,P。;Goovaerts,P.,探索约束全局优化的元建模采样标准,工程优化,34,3,263-278(2002)·doi:10.1080/03052150211751
[41] Sasena,M.J.2002。“使用克里金近似进行约束全局设计优化的灵活性和效率增强”,博士论文。,密歇根大学。
[42] Schonlau,M.1998年。“计算机实验与全局优化”,博士论文。,加拿大滑铁卢大学。
[43] Sendín,J.O.H。;Banga,J.R。;Csendes,T.,约束全局优化问题的多重启动聚类算法的扩展,工业和工程化学研究,6,48,3014-3023(2009)·doi:10.1021/ie800319m
[44] Simon,D.2013。进化优化算法。新泽西州霍博肯:威利·Zbl 1280.68008号
[45] Singh,P.、Couckuyt,I.、Ferranti,F.和Dhane,T.,2014年。“基于约束多目标代理的优化算法”,2014年IEEE进化计算大会(CEC)175:3080-3087。
[46] 乌格雷,Z。;Lasdon,L。;普卢默,J。;手套,F。;Kelly,J。;Martí,R.,《分散搜索和局部NLP解算器:全局优化的多重启动框架》,《计算信息杂志》,第19、3、328-340页(2007年)·兹比尔1241.90093 ·doi:10.1287/ijoc.1060.0175
[47] 沃森,A.G。;Barnes,R.J.,《确定极值的填充取样标准》,《数学地质学》,第27、5、589-608页(1995年)·doi:10.1007/BF02093902
[48] 沃尔德。,H.,通过迭代最小二乘法估计主成分和相关模型(1966),391-420。纽约:学术出版社,391-420。纽约·Zbl 0214.46103号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。