米凯尔·比诺伊斯；维克托·皮奇尼；帕特里克·泰兰德尔；阿卜杜拉·哈巴尔 多目标贝叶斯优化的Kalai-Smorodinsky解。 （英语） Zbl 1525.90384号 J.马赫。学习。物件。 21，第150号论文，42页（2020年）. 摘要：多目标贝叶斯优化研究的一个持续目标是将其适用性扩展到大量目标。虽然评估预算有限，但恢复最佳折衷解决方案集通常需要大量观察，而且不太容易解释，因为这组方案往往会随着目标数量的增加而增加。因此，我们建议关注一个源自博弈论的特定解决方案，即Kalai-Smorodinsky解决方案，它具有吸引人的特性。特别是，它确保了所有目标的边际收益相等。通过考虑copula空间中的目标，我们进一步使其对目标的单调变换不敏感。提出了一种新的定制算法来搜索解决方案，其形式为贝叶斯优化算法：基于从工具高斯过程先验中导出的获取函数来做出顺序采样决策。我们的方法在四个问题上进行了测试，分别有四个、六个、八个和九个目标。该方法在R（右）包裹GPGame游戏CRAN上提供https://cran.r-project.org/package=GPGame. MSC公司： 90C29型 多目标规划 62立方厘米10 贝叶斯问题；贝叶斯过程的特征 62-04 统计相关问题的软件、源代码等 60G15年 高斯过程 2015年1月62日 贝叶斯推断 68T05型 人工智能中的学习和自适应系统 关键词：高斯过程；博弈论；逐步降低不确定性 软件：Li-BIM公司；珊瑚礁；PESC公司；GAMA公司；GPGame游戏；GPareto公司；ParEGO公司；通用公共管理语言；Hyperopt公司；HypE公司；R（右）；MOEA/D公司；凯拉斯 PDF格式BibTeX公司 XML格式引用 \textit{M.Binois}等人，J.Mach。学习。第21号决议，第150号论文，42页（2020年；Zbl 1525.90384） 全文： arXiv公司 链接 参考文献： [1] Majid Abdolshah、Alistair Shilton、Santu Rana、Sunil Gupta和Svetha Venkatesh。目标偏好的多目标贝叶斯优化。神经研究进展 [2] Badr Abou El Majd、Jean-Antoine Desideri和Abderrahmane Habbal。按照纳什的观点，对流体结构进行优化。《信息学评论》（Revue Africaine de la Recherche en Informatique） [3] Joseph J.Allaire和François Cholet.keras:R“keras”接口，2018年。URLhttps://keras.rstudio.com.R包版本2.1.4。 [4] 阿萨福杜拉（Asafuddoula）、塔布拉塔·雷（Tapabrata Ray）和鲁胡尔·萨克（Ruhul Sarker）议员。一种用于多目标优化的基于分解的进化算法。IEEE进化计算汇刊，19（3）：445-460，2015年·Zbl 1338.90468号 [5] 约翰内斯·巴德（Johannes Bader）和埃卡特·齐兹勒（Eckart Zitzler）。Hype：一种基于快速超卷的多目标优化算法。进化计算，19（1）：45-762011。 [6] Slim Bechikh、Lamjed Ben Said和Khaled Ghedira。使用移动参考点估计多目标优化中的最低点。IEEE进化大会 [7] 朱利安·贝特（Julien Bect）、大卫·金斯堡（David Ginsbourger）、凌莉（Ling Li）、维克托·皮奇尼（Victor Picheny）和艾曼纽尔·巴斯克斯（Emmanuel Vazquez）。用于估计失效概率的计算机实验的顺序设计。统计学·Zbl 1252.62081号 [8] Julien Bect、François Bachoc、David Ginsbourger等。基于高斯过程的实验顺序设计的超分割方法。伯努利，25（4A）：2883-29192019年·Zbl 1428.62369号 [9] 詹姆斯·伯格斯特拉（James Bergstra）和约舒亚·本吉奥（Yoshua Bengio）。超参数优化的随机搜索。机器学习研究杂志，13:281-3052012·Zbl 1283.68282号 [10] 詹姆斯·贝格斯特拉（James S Bergstra）、雷米·巴德内特（Rémi Bardenet）、约舒亚·本吉奥（Yoshua Bengio）和巴拉斯·凯格尔（Balázs Kégl）。超参数优化算法。神经信息处理系统进展，第2546-2554页，2011年。 [11] Mickaël Binois和Victor Picheny。GPareto：基于高斯过程的多目标优化和分析的R包。统计软件杂志，89（1）：1-302019。 [12] 米卡·比诺伊斯（Mickaöl Binois）、迪迪尔·鲁利埃（Didier Rullière）和奥利维尔·鲁斯坦特（Olivier Roustant）。从系谱理论的角度估计Pareto前沿。信息科学，324:270-2852015·Zbl 1390.62043号 [13] 米卡·比诺伊斯（Mickaöl Binois）、罗伯特·格拉马奇（Robert B Gramacy）和迈克·卢德科夫斯基（Mike Ludkovski）。用于大型模拟实验的实际异方差高斯过程建模。计算与图形统计杂志，27（4）：808-8212018·Zbl 07498993号 [14] 米卡·比诺伊斯（Mickaöl Binois）、黄建能（Jiangeng Huang）、罗伯特·格拉马奇（Robert B Gramacy）和迈克·卢德科夫斯基（Mike Ludkovski）。复制还是探索？随机模拟实验的顺序设计。技术计量学，61 [15] 马修·布盖斯（Mathieu Bougais）、帕特里克·泰兰德（Patrick Taillandier）和劳伦特·维库特（Laurent Vercouter）。通过情感和社会关系增强代理在社会模拟中的行为。在第18次研讨会上 [16] Irem Bozbay、Franz Dietrich和Hans Peters。与内生分歧谈判：扩展的Kalai-Smorodinsky解决方案。游戏与经济行为，74（1）：407-4172012·Zbl 1279.91078号 [17] 亚伯拉罕·查恩斯和威廉·瓦格·库珀。目标规划和多目标优化：第1部分。欧洲运筹学杂志，1（1）：39-541977·Zbl 0375.90079号 [18] 冉成、李米青、叶田、张兴义、杨胜祥、金耀初和姚欣。进化多目标优化的基准测试套件。综合体& [19] Clément Chevalier、Julien Bect、David Ginsbourger、Emmanuel Vazquez、Victor Picheny和Yann Richet。基于快速并行kriging的逐步不确定性约简及其在偏移集识别中的应用。技术计量学，56（4）：455-4652014。 [20] Clément Chevalier、Xavier Emery和David Ginsbourger。快速更新条件模拟信号群。数学地球科学，47（7）：771-7892015·Zbl 1323.86020号 [21] François Chollet等人，Keras。https://github.com/fchollet/keras，2015年。 [22] 丁克·丘格（Tinkle Chugh）、卡提克·信德亚（Karthik Sindhya）、朱西·哈卡宁（Jussi Hakanen）和凯萨·米提宁（Kaisa Miettinen）。关于用进化算法处理计算量大的多目标优化问题的综述。软计算，第1-30页，2017。 [23] 丁克·丘格（Tinkle Chugh）、姚楚·金（Yaochu Jin）、凯萨·米提宁（Kaisa Miettinen）、朱西·哈卡宁（Jussi Hakanen）和卡提克·信德亚（Karthik Sindhya）。一种代理辅助的参考向量引导进化算法，用于计算量大的多目标优化。IEEE进化计算汇刊，22（1）：129-1432018。 [24] 约翰·康利和西蒙·威尔基。无凸性的讨价还价问题：扩展平均主义和卡莱-斯莫洛丁斯基解决方案。《经济学快报》，36（4）：365-3691991年·Zbl 0758.90089号 [25] Ivo Couckuyt、Dirk Descrijver和Tom Dhane。快速计算Pareto优化的多目标改进概率和预期改进标准·Zbl 1303.90093号 [26] Indraneel Das和John E Dennis。法向边界相交：在非线性多准则优化问题中生成Pareto曲面的一种新方法。SIAM公司·Zbl 0911.90287号 [27] Kalyanmoy Deb、Amrit Pratap、Sameer Agarwal和TAMT Meyarivan。一种快速的精英多目标遗传算法：NSGA-II。Evolutionary上的IEEE事务 [28] Kalyanmoy Deb、Shamik Chaudhuri和Kaisa Miettinen。使用进化方法估计最低点目标向量。第八届年会会议记录·Zbl 1184.90151号 [29] 托马斯·德苏特尔斯（Thomas Desautels）、安德烈亚斯·克劳斯（Andreas Krause）和乔尔·波迪克（Joel W Burdick）。高斯过程土匪优化中的并行探索与开发权衡。机器杂志·Zbl 1312.62036号 [30] Jean-Antoine Désidéri、Régis Duvigneau和Abderrahmane Habbal。航空航天科学中的计算智能，V.M.Becerra和M.Vassile Eds.，《航空航天进展》第244卷，使用Nash的多目标设计优化章节·Zbl 1416.35201号 [31] 彼得·迪格尔和保罗·贾斯汀亚诺·里贝罗。基于模型的地质统计学。施普林格，2007年·Zbl 1132.86002号 [32] 劳伦斯·查尔斯·沃德·狄克逊（Laurence Charles Ward Dixon）和乔治·塞戈（Giorgio P Szegö）。走向全球优化，第2卷。荷兰阿姆斯特丹北部，1978年。 [33] 瓦列里·瓦迪莫维奇·费多罗夫（Valerii Vadimovich Fedorov）。最佳实验理论。Elsevier，1972年。 [34] David Gaudrie、Rodolphe Le Riche、Victor Picheny、Benoit Enaux和Vincent Herbert。贝叶斯多目标优化中的目标解决方案：顺序和批处理版本·Zbl 1432.90138号 [35] Debassih Ghose和UR Prasad。两人多准则游戏中的解决方案概念。优化理论与应用杂志，63（2）：167-1891989·Zbl 0662.9003号 [36] Jussi Hakanen和Joshua D Knowles。关于在ParEGO中使用决策者偏好。在进化多准则优化国际会议上，第282-297页。施普林格，2017年。 [37] 菲利普·亨尼（Philipp Hennig）和克里斯蒂安·舒勒（Christian J Schuler）。熵搜索用于信息高效的全局优化。机器学习研究杂志，13:1809-18372012·兹比尔1432.65073 [38] 丹尼尔·埃尔南德斯·洛巴托（Daniel Hernández-Lobato）、何塞·埃尔南德兹·洛巴图（Jose Hernandez-Lovato），阿马尔·沙阿（Amar Shah）和瑞安·亚当斯（Ryan Adams）。多目标贝叶斯优化的预测熵搜索。国际会议 [39] 何塞·米盖尔·埃尔南德斯·洛巴托（JoséMiguel Hernández-Lobato）、迈克尔·盖尔巴特（Michael A Gelbart）、瑞安·亚当斯（Ryan P Adams）、马修·霍夫曼（Matthew W Hoffman）和邹宾·加拉马尼。使用基于信息的搜索进行约束贝叶斯优化的通用框架。机器学习研究杂志，17（160）：1-532016b·Zbl 1391.90641号 [40] Jens Leth Hougaard和Mich Tvede。非凸n人谈判：有效的maxmin解。经济理论，21（1）：81-952003·兹比尔1032.91059 [41] 石内久雄、冢本北彦和野岛由介。进化多目标优化：简短回顾。在2008年IEEE进化计算大会上·Zbl 1136.90466号 [42] 石桥久雄、谷口裕久、Masuda Hiroyuki和野岛Yusuke Nojima。基于分解的多目标算法的性能强烈依赖于pareto前沿形状。 [43] 哈米德·贾拉利（Hamed Jalali）、伊内克·范·纽文豪斯（Inneke Van Nieuwenhuyse）和维克托·皮奇尼（Victor Picheny）。异质噪声下基于kriging的仿真优化算法的比较。欧洲杂志·Zbl 1403.90553号 [44] 唐纳德·琼斯（Donald R Jones）、马蒂亚斯·肖诺（Matthias Schonlau）和威廉·J·韦尔奇（William J Welch）。高效全局优化昂贵的黑盒函数。《全局优化杂志》，13（4）：455-4921998·Zbl 0917.90270号 [45] 乌尔里希·容克。基于偏好的搜索和多标准优化。运筹学年鉴，130（1-4）：75-1152004·Zbl 1156.90381号 [46] 埃胡德·卡莱和迈尔·斯莫罗丁斯基。纳什讨价还价问题的其他解决方案。《计量经济学》，43:513-5181975年·Zbl 0308.90053号 [47] 约书亚·诺尔斯（Joshua Knowles）。ParEGO：一种用于昂贵的多目标优化问题的带有在线横向近似的混合算法。IEEE进化事务 [48] Saku Kukkonen和Jouni Lampinen。排名优势和多目标优化。2007年IEEE进化计算大会。CEC 2007，第3983-3990页。IEEE，2007年。 [49] Yann LeCun、Leon Bottou、Yoshua Bengio和Patrick Haffner。基于梯度的学习应用于文档识别。IEEE会议记录，86（11）：2278-23241998。 [50] 李米青、甄良丽和姚欣。如何在平行坐标中读取多个目标解集[教育论坛]。IEEE计算智能杂志，12（4）：88-1002017。 [51] Michael D McKay、Richard J Beckman和William J Conover。在计算机代码输出分析中选择输入变量值的三种方法的比较。技术计量学，21（2）：239-2451979·Zbl 0415.62011号 [52] 凯萨·米提宁。非线性多目标优化，第12卷。施普林格科学与商业媒体，2012年·Zbl 1282.90166号 [53] 罗杰·B·尼尔森。Copulas简介。斯普林格，2006年·Zbl 1152.62030 [54] 哈拉尔德·尼德雷特。低分辨率和低色散序列。《数论杂志》，30（1）：51-701988·Zbl 0651.10034号 [55] 杰里米·奥克利。估计不确定计算机代码输出的百分位数。英国皇家统计学会杂志：C辑（应用统计学），53（1）：83-932004·Zbl 1111.62395号 [56] 马雷克·奥梅尔卡（Marek Omelka）、伊雷恩·吉贝尔斯（Irène Gijbels）和诺埃尔·维拉韦贝克（Noöl Veraverbeke）。改进的连接函数核估计：弱收敛性和优良性检验。《统计年鉴》，37（5B）：3023-30582009年·Zbl 1360.62160号 [57] Biswajit Paria、Kirthevasan Kandasamy和Barnabás Póczos。使用随机标量化的多目标贝叶斯优化的灵活框架。InUAI，2019年。 [58] 詹姆斯·帕尔。约束处理和多目标优化的改进准则。南安普顿大学博士论文，2013年。 [59] 维克托·皮奇尼。通过逐步减少不确定性，使用高斯过程模拟器进行多目标优化。《统计与计算》，第1-16页，2013年·Zbl 1331.90102号 [60] Victor Picheny和Mickaël Binois。《GPGame:使用高斯过程解决复杂博弈问题》，2018年。统一资源定位地址http://CRAN.R-project.org/package=GPGame。R包版本1.1.0。 [61] 维克多·皮奇尼（Victor Picheny）、托比亚斯·瓦格纳（Tobias Wagner）和大卫·金斯堡（David Ginsbourger）。噪声优化的基于kriging的填充标准基准。结构和多学科优化，48（3）：607-6262013。 [62] 维克托·皮奇尼、米卡·比诺伊斯和阿卜杜拉赫曼·哈巴尔。求纳什均衡的贝叶斯优化方法。全球优化杂志，73（1）：171-1922019·Zbl 1410.91030号 [63] 沃尔夫冈·蓬韦瑟、托比亚斯·瓦格纳、德克·比尔曼和马克斯·文泽。使用模型辅助s度量选择对有限评估预算进行多目标优化。在国际自然并行问题解决会议上，第784-794页。施普林格，2008年。 [64] R核心团队。R： 统计计算语言和环境。R统计计算基金会，奥地利维也纳，2018年。统一资源定位地址https://www.R-project.org/。 [65] 卡尔·E·拉斯穆森和克里斯托弗·威廉姆斯。机器学习的高斯过程。麻省理工学院出版社，2006年。统一资源定位地址网址：http://www.gaussianprocess.org/gpml/。 ·Zbl 1177.68165号 [66] 奥利维尔·鲁斯坦特（Olivier Roustant）、埃斯佩兰·巴多诺（Esperan Padonou）、伊夫·德维尔（Yves Deville）、阿洛伊斯·克莱门特（Aloís Clément）、纪尧姆·佩林（Guillaume Perrin）、让·乔拉（Jean Giolla。具有分类输入的高斯过程元模型的组核。arXiv预打印arXiv:1802.023682018·Zbl 1443.60040号 [67] 丹尼尔·拉索和本杰明·范罗伊。学习通过信息导向采样进行优化。《神经信息处理系统进展》，第1583-1591页，2014年·Zbl 1458.90497号 [68] Matthias Schonlau、William J Welch和Donald R Jones。计算机模型约束优化中的全局搜索与局部搜索。课堂讲稿——专著系列，第11-25页，1998年。 [69] Bobak Shahraria、Kevin Swersky、Ziyu Wang、Ryan P Adams和Nando de Freitas。让人类脱离循环：贝叶斯优化综述。IEEE会议记录，104（1）：148-1752016。 [70] Hemant Kumar Singh、Amitay Isaacs和Tapabrata Ray。多目标优化问题中的Pareto角点搜索进化算法和降维。 [71] 肖恩·史密森（Sean C Smithson）、广阳（Guang Yang）、沃伦·格罗斯（Warren J Gross）和布雷特·梅耶（Brett H Meyer）。神经网络设计：多目标超参数优化。2016年IEEE/ACM [72] 尼兰扬·斯里尼瓦斯（Niranjan Srinivas）、安德烈亚斯·克劳斯（Andreas Krause）、沙姆·卡卡德（Sham M Kakade）和马蒂亚斯·西格（Matthias Seeger）。土匪环境下高斯过程优化的信息理论遗憾边界。信息·Zbl 1365.94131号 [73] 约书亚·D·斯文森。计算机实验：多目标优化和灵敏度分析。俄亥俄州立大学博士论文，2011年。 [74] Mohammad Tabatabaei、Markus Hartikainen、Karthik Sindhya、Jussi Hakanen和Kaisa Miettinen。一种基于交互代理的方法，用于计算成本高的多目标优化。运筹学学会杂志，70（6）：898-9142019年。 [75] 弗兰克·泰兰德尔、爱丽丝·米科利尔和帕特里克·泰兰德。Li-bim（版本1.0.0），2017年。 [76] Patrick Taillandier、Benoit Gaudou、Arnaud Grignard、Quang-Nghi Huynh、Nicolas Marilleau、Philippe Caillou、Damien Philippon和Alexis Drogoul。使用gama平台构建、合成和实验复杂的空间模型。GeoInformatica，第1-24页，2018年。 [77] Lothar Thiele、Kaisa Miettinen、Pekka J Korhonen和Julian Molina。一种基于偏好的多目标优化进化算法。进化计算，17（3）：411-4362009。 [78] 朱利安·维尔蒙泰克斯（Julien Villemonteix）、艾曼纽尔·巴斯克斯（Emmanuel Vazquez）和埃里克·沃尔特（Eric Walter）。一种用于对昂贵的评估函数进行全局优化的信息方法。全球优化杂志，44·Zbl 1180.90253号 [79] 托比亚斯·瓦格纳（Tobias Wagner）、迈克尔·埃默里奇（Michael Emmerich）、安德烈·道茨（AndréDeutz）和沃尔夫冈·蓬韦瑟（Wolfgang Ponweiser）。基于模型的多目标优化的预期改进标准。国际互联网 [80] 埃里克·沃尔特和吕克·普伦扎托。从实验数据中识别参数模型。Springer Verlag，1997年·Zbl 0864.93014号 [81] Andrzej P Wierzbicki。多目标优化中参考目标的使用理论意义和实践经验。1979 [82] Andrzej P Wierzbicki。多目标优化中参考目标的使用。《多准则决策理论与应用》，第468-486页。斯普林格，1980年·Zbl 0435.90098号 [83] Andrew G Wilson和Zoubin Ghahramani。Copula过程。神经信息处理系统进展，第2460-2468页，2010年。 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。