×

采用高斯过程、谱采样和遗传算法的高效多目标优化。 (英语) 兹比尔1406.90095

J.全球。优化。 71,编号2407-438(2018); 更正同上71,No.2,439-440(2018)。
本文将著名的Thompson抽样方法推广到连续多目标优化中的Pareto集近似,只需少量函数求值。在该算法中,每个目标函数都由一个独立的高斯过程模型建模,该模型允许通过选择协方差函数(例如连续性或平滑性)来结合目标函数的先验知识。利用最大似然估计的可用数据调整参数。给定拟合的高斯过程模型,使用基于汤普森抽样方法的规则选择下一个点来评估目标向量。第7节说明了第6节中提出的算法的具体实现,并将其应用于一个简单的双目标问题。
这篇论文很难阅读,因为许多数字移到了错误的位置,标题也不正确。已在同一期刊上发表了更正,请参阅[E.布拉德福德等,J.Glob。最佳方案。71,第2期,439–440页(2018年;Zbl 1471.90115号)].

MSC公司:

90C26型 非凸规划,全局优化
90C29型 多目标和目标规划
60G15年 高斯过程
90 C59 数学规划中的近似方法和启发式
PDF格式BibTeX公司 XML格式引用
全文: 内政部 链接

参考文献:

[1] 法玛尼,R;萨维奇,D;Walters,G,配水管网设计中的进化多目标优化,工程优化。,37, 167-183, (2005) ·doi:10.1080/03052150512331303436
[2] 多目标问题中的帕累托最优,应用。数学。最佳。,4, 41-59, (1977) ·兹比尔0346.90055 ·doi:10.1007/BF0142131
[3] Zitzler,E;Thiele,L,《多目标进化算法:比较案例研究和强度Pareto方法》,IEEE Trans。进化。计算。,3, 257-271, (1999) ·doi:10.1109/4235.797969
[4] Ehrgott,M,多目标优化,AI Mag.,29,47,(2009)·Zbl 1191.90054号 ·doi:10.1609/aimag.v29i4.2198
[5] Hwang,C-R,模拟退火:理论与应用,应用学报。数学。,12, 108-111, (1988)
[6] Davis,L.:遗传算法手册。Van Nostrand Reinhold,纽约(1991)
[7] 肯尼迪,J;Sammut,C(编辑);Webb,GI(编辑),粒子群优化,760-766,(2011),柏林
[8] 麻袋,J;Welch,WJ;TJ米切尔;Wynn,HP,计算机实验设计与分析,统计科学。,4, 409-423, (1989) ·Zbl 0955.62619号 ·doi:10.1214/ss/1177012413
[9] 辛普森,TW;AJ·布克;Ghosh,D;吉安达,AA;科赫,PN;Yang,R-J,《多学科分析和优化中的近似方法:小组讨论》,结构。多学科。最佳。,27, 302-313, (2004) ·doi:10.1007/s00158-004-0389-9
[10] McKay,医学博士;RJ贝克曼;Conover,WJ,《计算机代码输出分析中选择输入变量值的三种方法的比较》,《技术计量学》,42,55-61,(2000)·Zbl 0415.62011号 ·网址:10.1080/00401706.2000.10485979
[11] 沙赫里亚里,B;斯威斯基,K;王,Z;亚当斯,RP;Freitas,N,《让人类走出循环:贝叶斯优化综述》,Proc。IEEE,104,148-175,(2016)·doi:10.1010/JPROC.2015.2494218
[12] Jones博士;Schonlau,M;Welch,WJ,《昂贵黑盒函数的高效全局优化》,J.Glob。最佳。,13, 455-492, (1998) ·Zbl 0917.90270号 ·doi:10.1023/A:1008306431147
[13] 莫库斯,J.:关于寻找极值的贝叶斯方法。摘自:优化技术IFIP技术会议,第400-404页。斯普林格(1975)·Zbl 0311.90042号
[14] 阿尼夫斯基-沃克,:基于克里格优化的相对预期改进。arXiv预印本arXiv:0908.3321(2009)
[15] Jones,DR,《基于响应曲面的全局优化方法分类》,J.Glob。最佳。,21, 345-383, (2001) ·Zbl 1172.90492号 ·doi:10.1023/A:1012771025575
[16] 福雷斯特,AI;AJ Keane,《基于代理优化的最新进展》,Prog。Aerosp.航空公司。科学。,45, 50-79, (2009) ·doi:10.1016/j.paeroci.2008.11.001
[17] Voutchkov,I.,Keane,A.:使用代理的多目标优化。收录于:Tenne,Y.,Goh,C.K.(编辑)《优化中的计算智能》,第155-175页。柏林施普林格出版社(2010年)·Zbl 1200.90151号
[18] Deb,K;普拉塔普,A;阿加瓦尔,S;Meyarivan,T,一种快速的精英多目标遗传算法:NSGA-II,IEEE Trans。进化。计算。,6, 182-197, (2002) ·数字对象标识代码:10.1109/4235.996017
[19] Knowles,J,Parego:一种用于昂贵多目标优化问题的在线横向近似混合算法,IEEE Trans。进化。计算。,10, 50-66, (2006) ·doi:10.1109/TEVC.2005.851274
[20] Ponweiser,W.,Wagner,T.,Biermann,D.,Vincze,M.:使用模型辅助的S度量选择对有限评估预算进行多目标优化。摘自:国际自然并行问题解决会议,第784-794页。施普林格(2008)
[21] 库什纳,HJ,在噪声存在下定位任意多峰曲线最大点的新方法,J.基础工程,86,97-106,(1964)·数字对象标识代码:10.1115/1.3653121
[22] Keane,AJ,多目标设计优化中使用的统计改进标准,AIAA J.,44,879-891,(2006)·数字对象标识代码:10.2514/1.16875
[23] Emmerich,M.,Klinkenberg,J.-W.:帕累托前沿近似支配超体积的预期改进计算。莱顿大学的融洽技术(2008)
[24] Emmerich,M.:高斯随机场元模型辅助的单目标和多目标进化设计优化。多特蒙德大学博士论文(2005年)
[25] Emmerich,M.,Deutz,A.,Klinkenberg,J.-W.:基于超体积的预期改进:单调性和精确计算。摘自:IEEE进化计算大会,第2147-2154页。IEEE(2011)·Zbl 0627.62010号
[26] Hupkens,I.,Emmerich,M.,Deutz,A.:预期超体积改进的更快计算。arXiv预印arXiv:1408.7114(2014)
[27] Emmerich,M.,Yang,K.,Deutz,A.,Wang,H.,Fonseca,C.M.:贝叶斯全局优化的多准则推广。收录:Pardalos,P.,Zhigljavsky,A.,Zhilinskas,J.(编辑)《随机和确定性全局优化进展》,第229-242页。柏林施普林格出版社(2016)·Zbl 1355.90071号
[28] Yang,K.,Emmerich,M.,Deutz,A.,Fonseca,C.M.:在渐近最优时间计算三维预期超体积改进和相关积分。摘自:进化多准则优化国际会议,第685-700页。施普林格(2017)·Zbl 1430.90522号
[29] WR汤普森,《鉴于两个样本的证据,一种未知概率超过另一种概率的可能性》,《生物统计学》,25,285-294,(1933)·doi:10.2307/2332286
[30] Zhigljavsky,A.,Zilinskas,A.:随机全局优化,第9卷。柏林施普林格出版社(2007)·Zbl 1136.90003号
[31] Ju ilinskas,A,《基于统计模型的“黑盒”多目标优化算法》,国际期刊系统。科学。,45, 82-93, (2014) ·Zbl 1307.93476号 ·doi:10.1080/00207721.2012.702244
[32] Helmdach,D;Yaseneva,P;希尔,PK;Schweidtmann,AM;Lapkin,A,《多目标优化,包括开发生物可再生工艺的生命周期评估结果》,ChemSusChem,10,3632-3643,(2017)·doi:10.1002/cssc.201700927
[33] Rasmussen,C.E.:机器学习中的高斯过程。收录:Bousquet,O.,VonLuxburg,U.,Ratsch,G.(编辑)《机器学习高级讲座》。人工智能课堂讲稿,第3176卷,第63-71页(2004年)·Zbl 1120.68436号
[34] Rasmussen,C.E.,Williams,C.K.I.:机器学习的高斯过程。麻省理工学院出版社,剑桥(2005)·Zbl 1177.68165号
[35] Ebden,M.:高斯过程:简介。arXiv预印arXiv:1505.02965(2015)·Zbl 1108.62327号
[36] Rasmussen,C.E.:机器学习的高斯过程。麻省理工学院出版社,剑桥(2006)·Zbl 1177.68165号
[37] 杨,X;Maciejowski,JM,使用高斯过程和模型预测控制的容错控制,国际期刊应用。数学。计算。科学。,25, 133-148, (2015) ·Zbl 1322.93044号 ·文件编号:10.1515/amcs-2015-0010
[38] Matérn,B.:《空间变异》,第36卷。柏林施普林格出版社(2013)·Zbl 0608.62122号
[39] Sundararajan,S;Keerthi,SS,高斯过程中选择超参数的预测方法,神经计算。,13, 1103-1118, (2001) ·Zbl 1108.62327号 ·doi:10.1162/08997660151134343
[40] Hernández-Lobato,J.M.,Hoffman,M.W.,Ghahramani,Z.:预测熵搜索用于黑盒函数的有效全局优化。收录于:Ghahramani,Z.,Welling,M.,Cortes,C.,Lawrence,N.D.,Weinberger,K.Q.(eds.)Advances In Neural Information Processing Systems 27,vol.1,pp.918-926。麻省理工学院出版社,剑桥(2014)
[41] Bochner,S.:傅里叶积分讲座,第42卷。普林斯顿大学出版社,普林斯顿(1959)·Zbl 0085.31802号
[42] Rahimi,A;Recht,B;Platt,JC(编辑);Koller,D(编辑);辛格,Y(编辑);Roweis,ST(编辑),大规模内核机器的随机特征,1177-1184,(2007),剑桥
[43] Lázaro-Gredilla,M;Quiñonero-Candela,J;拉斯穆森,CE;Figueiras-Vidal,AR,稀疏谱高斯过程回归,J.Mach。学习。第11号决议,1865-1881年,(2010年)·Zbl 1242.62098号
[44] 夏佩尔,O;李,L;Shawe-Taylor,J(编辑);Zemel,RS(编辑);Bartlett,PL(编辑);佩雷拉,F(编辑);Weinberger,KQ(编辑),《汤普森抽样的实证评估》,2249-2257,(2011),剑桥
[45] 斯科特,SL,现代贝叶斯主义者对多武器强盗的看法,应用。斯托克。模型总线。印度,26,639-658,(2010)·doi:10.1002/asmb.874
[46] Shahriari,B.,Wang,Z.,Hoffman,M.W.,Bouchard-Cóté,A.,de Freitas,N.:贝叶斯优化的熵搜索组合。arXiv预印arXiv:1406.4625(2014)
[47] Kaufmann,E.,Korda,N.,Munos,R.:汤普森抽样:渐近最优有限时间分析。载于:算法学习理论国际会议,第199-213页。施普林格(2012)·Zbl 1386.91055号
[48] Agrawal,S.,Goyal,N.:Thompson对具有线性回报的背景盗贼进行抽样调查。摘自:第30届国际机器学习会议(ICML-13),第127-135页(2013)
[49] Yahyaa,S.,Manderick,B.:多目标多武器强盗问题的汤普森抽样。摘自:2015年欧洲人工神经网络研讨会,第47-52页。卢万新闻大学(2015)
[50] Stein,M,使用拉丁超立方体采样的模拟大样本特性,技术计量学,29143-151,(1987)·Zbl 0627.62010号 ·doi:10.1080/00401706.1987.10488205
[51] 艾默里奇,M;丰塞卡,C;高桥,RHC(编辑);Deb,K(编辑);Wanner,EF(编辑);Greco,S(ed.),《计算低维超体积贡献:渐近最优算法和复杂性结果》,121-135,(2011),柏林·doi:10.1007/978-3642-19893-99
[52] Bader,J.、Deb,K.、Zitzler,E.:使用蒙特卡罗采样实现更快的基于超卷的搜索。摘自:《可持续能源和运输系统的多准则决策:第19届多准则决策国际会议论文集》。第313-326页。柏林施普林格出版社(2010年)·Zbl 1184.90147号
[53] Finkel,D.E.:直接优化算法用户指南。http://www4.ncsu.edu/ctk/Finkel_Direct/DirectUserGuide_pdf.pdf。2017年11月26日访问(2003)
[54] Lin,S.:NGPM是Matlab中的NSGA-II项目。代码查找器。http://www.codelooker.com/dfilec/6987NGPMv11.4/NGPManualv1.4.pdf。2017年11月26日(2011年)访问
[55] Rasmussen,C.E.,Nickisch,H.:GPML工具箱3.5版。http://mlg.eng.cam.ac.uk/carl/gpml/doc/manual.pdf。2017年11月26日访问(2014年)·Zbl 1242.68242号
[56] Yi,C.:帕雷托集。Matlab文件交换。https://se.mathworks.com/matlabcentral/fileexchange/15181-pareto-set。访问日期:2017年11月26日(2014年)
[57] Yi,C.:超音量指示器。Matlab文件交换。https://se.mathworks.com/matlabcentral/fileexchange/19651-hypervolume-indicator。2017年11月26日访问(2008)
[58] Bradford,E.,Schweidtmann,A.M.:TS-EMO。github。https://github.com/Eric-Bradford/TS-EMO。2017年11月29日访问(2017)
[59] Schaffer,J.D.:使用向量评估遗传算法进行机器学习的一些实验。纳什维尔范德比尔特大学(1985)
[60] 克里斯特斯库,C.:ParEGO_Eigen。github。https://github.com/CristinaCristescu/ParEGO_Eigen/graphs/contributors。2017年11月26日(2015年)访问
[61] 戈里森,D;库库特,我;德梅斯特,P;达内,T;Crombecq,K,基于计算机设计的代理建模和自适应采样工具箱,J.Mach。学习。第11号决议,2051-2055,(2010)
[62] Cristescu,C.,Knowles,J.:基于代理的多目标优化:ParEGO更新和测试·Zbl 0917.90270号
[63] Zitzler,E;蒂勒,L;Laumanns,M;丰塞卡,CM;VG,Fonseca,《多目标优化器的性能评估:分析与评论》,IEEE Trans。进化。计算。,7, 117-132, (2003) ·doi:10.1010/TEVC.2003.810758
[64] Knowles,J;蒂勒,L;Zitzler,E,《随机多目标优化器性能评估教程》,Tik Rep.,214327-332,(2006)
[65] Riquelme,N.、Von Lücken,C.、Baran,B.:多目标优化中的性能指标。摘自:2015年拉丁美洲计算机会议(CLEI),第1-11页。IEEE(2015)
[66] Ishibuchi,H.、Masuda,H.,Tanigaki,Y.、Nojima,Y.:代际距离和反向代际距离的修正距离计算。查姆施普林格(2015)·文件编号:10.1007/978-3-319-15892-1_8
[67] Zhou,A.,Jin,Y.,Zhang,Q.,Sendhoff,B.,Tsang,E.:结合基于模型和基于遗传学的后代生成,使用收敛标准进行多目标优化。摘自:IEEE进化计算大会,2006年(CEC 2006),第892-899页。电气与电子工程师协会
[68] Zitzler,E.:多目标优化的进化算法:方法和应用。苏黎世ETH(1999)
[69] 江,S;Ong,Y-S;张,J;Feng,L,多目标优化中性能指标的一致性和矛盾,IEEE Trans。赛博。,44, 2391-2404, (2014) ·doi:10.1109/TCYB.2014.2307319
[70] Fonseca,C.M.,Fleming,P.J.:关于随机多目标优化器的性能评估和比较。摘自:《自然》杂志并行问题解决国际会议,第584-593页。斯普林格(1996)
[71] Knowles,J.:一种用于可视化随机多目标优化器性能的总结性成果曲面绘制方法。摘自:第五届智能系统设计和应用国际会议,2005年,第552-557页。IEEE(2005)·Zbl 0346.90055号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。