{“状态”:“确定”,“消息类型”:“工作”,“信息版本”:“1.0.0”,“邮件”:{“索引”:{“日期部分”:[[2024,5,17]],“日期时间”:“2024-05-17T07:06:48Z”,“时间戳”:1715929608580},“出版商位置”:“查姆”,“参考计数”:37,“出版者”:“斯普林格国际出版”,“isbn-type”:[{“值”:“9783031147135”,“类型”:”打印“},{“值”:“9783031147142”,“type”:“electronic”}],“license”:[{“start”:{“date-parts”:[2022,1,1]],“date-time”:“2022-01-01T00:00:00Z”,“timestamp”:1640995200000},“content-version”:“tdm”,“delay-in-days”:0,“URL”:“https:\/\/creativecommons.org\/licenses\/by\/4.0”}4T00:00:00Z“,”时间戳“:1660435200000},”内容-版本“:“vor”,“delay-in-days”:225,“URL”:“https://creativecommons.org\/licenses\/by-/4.0”},{“start”:{“date-parts”:[2022,1,1]],“date-time”:“2022-01-01T00:00:00Z”,“timestamp”:1640995200000},“content-version”:“tdm”,“delay-in-ddays”:0,“URL“https:\\/creativecommons.org\/licences\/by-/4.00”}:{“日期-部分”:[[2022,8,14]],“日期-时间”:“2022-08-14T00:00:00Z”,“timestamp”:1660435200000},“content-version”:“vor”,“delay-in-days”:225,“URL”:“https:\\/creativecommons.org\\licenses//by\/4.0”}],“content-domain”:{“domain”:[“link.springer.com”],“crossmark-restriction”:false},”short-container-title“:[],”published-print“:{”date-parts“:[2022]}”,“abstract”:“”摘要<\/jats:title>超参数优化(HPO)是实现峰值预测性能的机器学习模型的关键组件。尽管在过去几年中提出了许多用于HPO的方法和算法,但在阐明和检查这些黑盒优化问题的实际结构方面进展甚微。探索性景观分析(ELA)包含一组技术,可用于获取有关未知优化问题属性的知识。在本文中,我们评估了五种不同的黑盒优化器在30个HPO问题上的性能,这些问题由10个不同数据集上训练的XGBoost学习者的二维、三维和五维连续搜索空间组成。这与黑盒优化基准(BBOB)在360个问题实例上评估的相同优化器的性能形成了对比。然后,我们计算HPO和BBOB问题的ELA特征,并检查相似性和差异性。通过对ELA特征空间中HPO和BBOB问题的聚类分析,我们可以确定HPO问题与BBOB在结构元层次上的比较。我们确定了与ELA特征空间中的HPO问题相近的BBOB问题子集,并表明优化器在这两组基准问题上的性能相似。我们强调ELA对HPO的开放挑战,并讨论未来研究和应用的潜在方向<\/jats:p>“,”DOI“:”10.1007\/978-3-031-14714-2_40“,”type“:”book-chapter“,”created“:{”date-parts“:[2022,8,13]],”date-time“:”2022-08-13T21:03:13Z“,”timestamp“:1660424593000},”page“:“575-589”,”update-policy“:referenced-by-count“:2,”title“:[”HPO$$\\times$$ELA:通过\u00a0Exploratory Landscape Analysis的\u00a含义调查超参数优化景观“],“前缀”:“10.1007”,“作者”:[{“ORCID”:“http://\/ORCID.org\/00000-0003-4152-5308”,“authenticated-ORCID”:false,“given”:”Lennart“,”family“:”Schneider“,”sequence“:”first“,”affiliation“:[]},{”ORCID“:”http://\/orcid.org\/00000-0003-3929-7465“,”authenticated-orcid“:false,”given“:”Lennart“,”family“:”Sch\u00e4permeier“,”sequence“:”additional“,”affiliation“:[]},{”orcid“:{“orcid”:“http:\/\/orcid.org\/0000-0001-6002-6980“,”authenticated-orcid“:false,”given“:”Bernd“,”family“:”Bischl“,”sequence“:”additional“,”affiliation“:[]},{”orcid“:“http://\/orcid=org\/00000-0002-9788-8282”,“authenticationed-orcid”:false“,”giving“:”Heike“,”“family”:“Trautmann”,“sequence”:“additional”,“affiliance”:[]{“orcid”:“”http:\/\/orcid.org\/00000-0003-2862-1418“,”authenticated-orcid“:false,”given“:”Pascal“,”family“:”Kerschke“,”sequence“:”additional“,”affiliation“:[]}],”member“:”297“,”published-online“:{”date-parts“:[2022,8,14]]},”reference“:[{”key“:“40_CR1”,“doi-asserted-by”:“crossref”,”unstructured“:”Belkhir,N.,Dr\u00e9o,J.,Sav\u00e 9ant,P.,Schoenauer,M.:预算有限的CMA-ES的逐实例算法配置。摘自:《遗传与进化计算会议论文集》,第681\u2013688页(2017)“,“DOI”:“10.1145”,{“key”:“40_CR2”,“unstructured”:“Bergstra,J.,Bardenet,R.,Bengio,Y.,K\u00e9gl,B.:超参数优化算法。摘自:《第24届神经信息处理系统国际会议论文集》,pp.2546\u20132554(2011)“},{“key”:“40_CR3”,“unstructured”:“Bischl,B.等人:超参数优化:基础、算法、最佳实践和开放挑战。arXiv:2107.05847[cs,stat](2021)”},},“key“:”40_CR4“,“unstratezed”:”Bischl,B.等人:OpenML基准测试套件。In:Vanschoren,J.,Yeung,S.(eds.)《神经信息处理系统数据集和基准跟踪会议录》,第1卷(2021)“},{“key”:“40_CR5”,“doi-asserted-by”:“crossref”,“unstructured”:“Bischl,B.,Mersmann,O.,Trautmann,H.,Preu\u00df,M.:基于探索性景观分析和成本敏感学习的算法选择。摘自:《第十四届遗传与进化计算年会论文集》,第313\u2013320页(2012)“,“DOI”:“10.1145\/23301633209”},{“key”:“40_CR6”,“DOI-asserted-by”:“crossref”,“unstructured”:“Bosman,A.S.、Engelbrecht,A.P.、Helbig,M.:神经网络适应度景观分析的渐进梯度行走。摘自:《遗传与进化计算会议论文集》,第1473\u20131480(2018)页,“DOI”:“10.1145\/3205651.3208247”},{“key”:“40_CR7”,“DOI-asserted-by”:“crossref”,“unstructured”:“Bossek,J.:smoof:单目标优化测试函数。R J.9(1),103\u2013113(2017).https:\/\/journal.r-project.org\/archive\/2017\/RJ-2017-004\/index.html“,”DOI“:”10.32614\/RJ-2017“},{“key”:“40_CR8”,“DOI-asserted-by”:“crossref”,“unstructured”:“Chen,T.,Guestrin,C.:XGBoost:一个可扩展的树木提升系统。摘自:第22届ACM SIGKDD知识发现和数据挖掘国际会议论文集,第785\u2013794页(2016)“,“DOI”:“10.1145\/2939672.2939785”},{“key”:“40_CR9”,“DOI-asserted-by”:“crossref”,“unstructured”:“Doerr,C.,Dreo,J.,Kerschke,P.:为(hyper-)参数调整作为基准问题。摘自:《遗传与进化计算会议论文集》,第1755\u20131764(2019)页,“DOI”:“10.1145\/3319619.3326857”},{“issue”:“2”,“key”:“40_CR10”,“DOI-asserted-by”:“publisher”,“first page”:Hains,D.R.,Whitley,L.D.,Howe,A.E.:重温TSP中的大山谷搜索空间结构。《运营杂志》。Res.Soc.62(2),305\u2013312(2011)。https:\/\/doi.org\/10.1057\/jors.2010.116“,”journal-title“:”J.Oper。Res.Soc.“},{”key“:”40_CR11“,”unstructured“:”Hansen,N.,Auger,A.,Finck,S.,Ros,R.:实参数黑盒优化基准测试2010:实验设置。研究报告RR-7215,Inria(2010)。https:\/\/hal.Inria.fr\/Inria-00462481“}”{“key”:“40_CR12”,“unstructure”:“”Hansen,N.,Finck,S.,Ros,R.,Auger,A.:2009年实时参数黑盒优化基准测试:无噪声函数定义。技术报告RR-6829,Inria(2009)。https:\/\/hal.inria.fr\/inria-00362633\/document“},{“问题”:“4”,“密钥”:“40_CR13”,“doi-asserted-by”:“出版商”,“首页”:“625”,“doi”:“10.1162\/EVCO__00100”,“卷”:“21”,“作者”:“L Hernando”,“年份”:“2013”,“非结构化”:“Hernando,L.,Mendiburu,A.,Lozano,J.A.:组合优化问题中估计局部最优数方法的评估。进化。计算。21(4),625\u2013658(2013)“,“新闻标题”:“演变。计算。“},{”key“:”40_CR14“,”series-title“:”Springer series on Challenges in Machine Learning“,”doi-asserted-by“:”publisher“,”doi“:”10.1007\/978-3-030-05318-5“,”volume-title“:“自动机器学习”,“年份”:“2019”,“非结构化”:“Hutter,F.,Kotthoff,L.,Vanschoren,J.(eds.):自动机器学习。TSSCML,Springer,Cham(2019).https:\/\/doi.org\/10.1007\/978-3-030-05318-5“},{”issue“:”4“,”key“:”40_CR15“,”doi-asserted-by“:”publisher“,”first page“:“455”,”doi“:”10.1023\/A:1008306431147“,“volume”:“13”,“author”:“DR Jones”,“year”:“1998”,“unstructured”:“Jones,D.R.,Schonlau,M.,Welch,W.J.:昂贵黑盒函数的高效全局优化。J。全球最佳方案。13(4),455\u2013492(1998)。https:\/\/doi.org/10.1023\/A:1008306431147”,“期刊标题”:“J.Global Optim。“},{”key“:”40_CR16“,”doi asserted by“:”crossref“,”nonstructured“:”Kerschke,P.,Preuss,M.,Wessing,S.,Trautmann,H.:通过探索性景观分析检测漏斗结构。In:Proceedings of the 2015 Annual Conference on Genetic and Evolution Computation,pp.265\u2013272(2015)“,”doi“:”10.1145\/2739480.2754642“},{”issue“:”1“,”key“:”40_CR17“,”doi-asserted-by“:”publisher“,”first-pages“:”99“,”doi“:”10.1162\/evco_a_00236“,”volume“:“27”,”author“:”P Kerschke“,”year“:”2019“,”unstructured“:”Kerschke,P.,Trautmann,H.:结合探索性景观分析和机器学习对连续黑盒问题进行自动算法选择。进化。计算。27(1),99\u2013127(2019)“,“新闻标题”:“演变。计算。“},{”key“:”40_CR18“,”series-title“:”分类、数据分析和知识组织研究“,”doi-asserted-by“:”publisher“,”first page“:“93”,”doi“:”10.1007\/978-3-030-25147-5_7“,”volume-title“:“统计计算应用”,”author“:”P Kerschke“,”year“:”2019“,”unstructured“:”Kerschke,P.,Trautmann,H.:使用R包Flacco对连续和约束优化问题进行基于特征的综合景观分析。收录:Bauer,N.、Ickstadt,K.、L\u00fcbke,K.,Szepannek,G.、Trautmann,H.、Vichi,M.(编辑)《统计计算应用》。SCDAKO,第93页\u2013123。查姆施普林格(2019)。https:\/\/doi.org\/10.1007\/978-3-030-25147-5_7“},{“问题”:“44”,“密钥”:“40_CR19”,“doi-serted-by”:“出版商”,“首页”:“1903”,“doi”:“10.21105”,“卷”:“4”,“作者”:“M Lang”,“年份”:“2019”,”非结构化“Lang,M.等人:mlr3:R.J.开源软件4(第44页),1903(2019)“,”journal-title“:”J.开源软件。“},{”issue“:”5“,”key“:”40_CR20“,”doi-asserted-by“:”publisher“,”first-page“:”3063“,”doi“:”10.1007\/s00158-021-02977-1“,”volume“:“64”,“author”:“R Le Riche”,“year”:“2021”,“unstructured”:“Le Richer,R.,Picheny,V.:根据COCO基准重新审视贝叶斯优化。Struct.Multidiscip.Optim.64(5),3063\u20133087(2021年)https:\/\/doi.org\/10.1007\/s00158-021-02977-1“,”journal-title“:”结构。多学科。最佳方案。“},{”issue“:”1“,”key“:”40_CR21“,”first-page“:”6765“,”volume“:“18”,”author“:”L Li“,”year“:”2017“,”unstructured“:”Li,L.,Jamieson,K.,DeSalvo,G.,Rostamizadeh,A.,Talwalkar,A.:超带:一种基于强盗的新型超参数优化方法。J.Mach.Learn.Res.18(1),6765\u20136816(2017)“,”journal title“:”J.Macn.Learn.Res.“”},{“key“:”40_CR22“,”doi-asserted-by“:”crossref“,”unstructured“:”Lunacek,M.,Whitley,D.:分散度量和CMA进化策略。摘自:《第八届遗传与进化计算年会论文集》,第477\u2013484(2006)页,“DOI”:“10.1145\/1143997.114085”},{“key”:“40_CR23”,“DOI-asserted-by”:“crossref”,“unstructured”:“Mersmann,O.,Bischl,B.,Trautmann,H.,Preuss,M.,Weihs,C.,Rudolph,G.:探索性景观分析。摘自:《第十三届遗传与进化计算年会论文集》,第829\u2013836(2011)页,“DOI”:“10.1145\/2001576.2001690”},{“issue”:“1”,“key”:“40_CR24”,“DOI-asserted-by”:“publisher”,“first page”:Mersmann,O.,Preuss,M.,Trautmann,H.,Bischl,B.,Weihs,C.:通过基准概念分析BBOB结果。进化。计算。23(1),161\u2013185(2015)“,“新闻标题”:“演变。计算。“},{”issue“:”1“,”key“:”40_CR25“,”doi-asserted-by“:”publisher“,”first-page“:”74“,”doi“:”10.1109\/TEVC.2014.2302006“,“volume”:“19”,“author”:“MA Mu\u00f1oz”,“year”:“2014”,“unstructured”:“”Mu\u00f1oz,M.A.,Kirley,M.,Halgamuge,S.K.:使用信息内容对连续空间优化问题进行探索性景观分析。IEEE传输。进化。计算。19(1),74\u201387(2014)“,“期刊标题”:“IEEE Trans。进化。计算。“},{”key“:”40_CR26“,”series-title“:”计算机科学讲义“,”doi-asserted-by“:”publisher“,”first page“:“114”,“doi”:“10.1007\/978-3-030-43680-3_8”,“volume-title”:“组合优化中的进化计算”,“author”:“CG-Pimenta”,“year”:“2020”,“unstructured”:“Pimenta,C.G.,de S\u00e1,A.G.C.,Ochoa,G.,Pappa,G.L.:自动机器学习搜索空间的适应性景观分析。摘自:Paquete,L.,Zarges,C.(编辑)EvoCOP 2020。LNCS,第12102卷,第114\u2013130页。查姆施普林格(2020)。https:\/\/doi.org\/10.1007\/978-3-030-43680-3_8“},{“key”:“40_CR27”,“unstructured”:“Prager,R.P.:pflacco:R包Flacco的Python接口,2022年4月。https:\/\/github.com/Reiyan\/pflacco“},{“key”:“40_CR28”,“doi-asserted-by”:“crossref”,“unstructured”:“Prager,R.P.、Trautmann,H.、Wang,H.,B\u00e4ck、T.H.W.、Kerschke,P.:通过分类器链和探索性景观分析实现模块化CMA-ES的持久配置。收录于:2020年IEEE计算智能研讨会系列(SSCI),第996\u20131003页。IEEE(2020)”,“DOI”:“10.1109\\SSCI47803.2020.9308510”},{“issue”:“53”,“key”:“40_CR29”,“首页”:“1”,“volume”:“20”,“author”:“P Probst”,“year”:“2019”,“nonstructured”:“Probst,P.,Boulesteix,A.L.,Bischl,B.:可调性:机器学习算法超参数的重要性。J.Mach.Learn.Res.20(53),1\u201332(2019)”,“期刊标题”:“J。机器。学习。Res.“},{”key“:”40_CR30“,”series-title“:”计算机科学讲义“,”doi-asserted-by“:”publisher“,”first page“:“271”,”doi“:”10.1007\/978-3-319-99259-4_22“,”volume-title“:“Parallel Problem Solving from Nature \u2013 PPSN XV”,“author”:“Y Pushak”,“year”:“2018”,“unstructured”:“Pushak,Y.,Hoos,H.:算法配置景观:In:Auger,A.,Fonseca,C.M.,Louren\u00e7o,N.,Machado,P.,Paquete,L.,Whitley,D.(编辑)PPSN 2018,第二部分。LNCS,第11102卷,第271\u2013283页。查姆施普林格(2018)。https:\/\/doi.org\/10.1007\/978-3-319-99259-4_22“},{“key”:“40_CR31”,“doi-asserted-by”:“crossref”,“unstructured”:“Pushak,Y.,Hoos,H.H.:黄金参数搜索:利用结构快速并行配置参数。in:《2020年遗传与进化计算会议论文集》,第245\u2013253(2020)页”,“doi”:“10.1145\/3377930.339211“},{“key”:“40_CR32”,“doi-asserted-by”:“crossref”,“unstructured”:“Pushak,Y.,Hoos,H.H.:AutoML landscapes.ACM Trans.Evol.Learn.Optim.(TELO)(2022年出版).https:\/\/www.cs.ubc.ca\/labs\/algorithmards\/Projects\/ACLandscapes\/PusHoo22a.pdf”,“doi”:“10.1145\/3558774”},},“key“:”40_CR3 3“,“非结构化”:”R核心团队:R:统计计算语言和环境。R统计计算基金会,奥地利维也纳(2021)。https:\/\/www.R-project.org/“},{”key“:”40_CR34“,”doi asserted by“:”crossref“,”unstructured“:”Thornton,C.,Hutter,F.,Hoos,H.H.,Leyton-Brown,K.:Auto-WEKA:分类算法的组合选择和超参数优化。摘自:第19届ACM SIGKDD知识发现和数据挖掘国际会议论文集,第847\u2013855页(2013)“,“DOI”:“10.1145\/24875.2487629”},{“key”:“40_CR35”,“unstructured”:“Traor\u00e9,K.R.,Camero,A.,Zhu,X.X.:健身景观足迹:比较神经架构搜索问题的框架。arXiv:2111.01584[cs](2021)“},{”issue“:”2“,”key“:”40_CR36“,”doi-asserted-by“:”publisher“,”first page“:“49”,”doi“:”10.1145\/264119.264118“,“volume”:“15”,“author”:“J Vanschoren”,“year”:“2013”,“unstructured”:“Vanschoron,J.,van Rijn,J.N.,Bischl,B.,Torgo,L.:OpenML:机器学习中的网络科学。SIGKDD Explor.15(2),49\u201360(2013)“,“新闻标题”:”SIGKDD探索。“},{”issue“:“1”,”key“:“40_CR37”,”doi-asserted-by“:”publisher“,”first page“:”13“,”doi“:”10.32614\/RJ-2013-002“,”volume“:‘5’,”author“:”Y Xiang“,”year“:”2013“,”unstructured“:”Xiang,Y.,Gubian,S.,Suomela,B.,Hoeng,J.:用于全局优化的广义模拟退火:GenSA包。R J.5(1),13\u201328(2013)“,”journal-title“:”罗杰“}],“container-title”:[“计算机科学课堂讲稿”,“自然并行问题解决\u2013 PPSN XVII”],“原始标题”:[],“链接”:[{“URL”:“https:\/\/link.springer.com/content\/pdf\/10.1007\/978-3-031-14714-2_40”,“内容类型”:“未指定”,“content-version”:“vor”,“intended-application”:“相似性检查”}],“存放”:{“日期-部件”用法:[2024,3,12]],“日期时间”:“2024-03-12T16:47:01Z”,“时间戳”:1710262021000},“分数”:1,“资源”:{“主要”:{“URL”:“https:\\/link.springer.com\/10.1007\/978-3-031-14714-2_40”}},《副标题》:[],“短标题”:[]142“],”references-count“:37,”URL“:“http://\/dx.doi.org \/10.1007\/978-3-031-14714-2_40”,“关系”:{},“ISSN”:[“0302-9743”,“1611-3349”],“ISSN-type”:[{“值”:“0302-7743”、“类型”:“打印”},{“数值”:“1611-33049”,“类型”:“电子”}],“主题”:[],“发布”:{“日期段”:[2022]},“2022年8月14日”,“订单”:1,“名称”:“first_online”,“标签”:“第一在线”,“群组”:{“name”:“ChapterHistory”,“label”:“ChapterHistory”}},{“value”:“PPSN”,“order”:1,“name”:“conference_acrombit”,“标签”:“会议缩写词”,“group”::{“name”:“ConferenceInfo”,“label”:“会议信息”}},{“value”:“Dortmund”,“order”:3,“name”:“Conference_city”,“table”:“conferency city”,“group”::“会议信息”}},{“值”:“2022”,“顺序”:5,“名称”:“会议年”,“标签”:“会议年”,“组”:{“名称”:“会议信息”,“标签”:“会议信息”}},{“值”:“2022年9月10日”,“顺序”:7,“名称”:“会议开始日期”,“标签”:“会议开始日期”,“组”:{“名称”:“会议信息”,“标签”:“会议信息”},{“value”:“2022年9月14日”,“order”:8,“name”:“conference_end_date”订单“:10,”名称“:“conference_id”,“label”:“会议id”,“group”:{“name”:“ConferenceInfo”,“table”:“Meeting Information”}},{“value”:“https:\/\/ppsn2022.cs.tu-dortmund.de\/”,“order”:11,“name”:“conference_url”,“标签”:“converence_url”:1,“name”:“type”,“label”:“type”,“group”:{“name”:“ConfEventPeerReviewInformation”,“label”:“Peer Review Information(由会议组织者提供:“同行评审信息(由会议组织者提供)”}},{“value”:“185”,“order”:3,“name”:“number_of_submissions_sent_for_Review”,”label“:“发送供评审的提交数”,“group”:{“name”:“ConfEventPeerReviewInformation”,“label”:“同行审议信息(由大会组织者提供):“number_of_full_papers_accepted”,“label”:“接受的完整论文数”,“group”:{“name”:“ConfEventPeerReviewInformation”,“标签”:“同行评审信息(由会议组织者提供)”}},{“value”:“0”,“order”:5,“name”:“number _of_short_papers_accepted“,”label“:”接受的短论文数“,”group“:{”name“:“ConfEventPeerReviewInformation”,“label”:“同行评审信息(由会议组织者提供)”}},{“value”:“46%-该值由等式“接受的全文数”/“发送供评审的提交数*100”计算,然后四舍五入为整数。”,“order”:6,“name”:“acceptance_rate_of_Full_Papers”,“标签”:“完整论文的接受率”,“group”:{“name”:“ConfEventPeerReviewInformation”,“label”:“Peer Review Information(由会议组织者提供)”}},{“value”:“3.75”,“order”:7,“name”:“average_number_of_reviews_per_paper”,“table”:“每篇论文的平均评论数”:“同行评议信息(由会议组织者提供)”}},{“value”:“3.11”,“order”:8,“name”:“average_number_of_papers_per_reviewer”,“label”:“每位审阅者的平均论文数”,“group”:{“name”:“ConfEventPeerReviewInformation”,“标签”:“同行评审信息(由大会组织者提供)“}}”,{:“external_reviewers_involved”,“label”:“涉及外部审阅者”,“group”:{“name”:“ConfEventPeerReviewInformation”,“标签”:“同行审阅信息(由会议组织者提供)”}}]}}