×

具有严重噪声的噪声函数的全局优化默认策略。 (英语) Zbl 1370.90201号

摘要:未知噪声函数的全局优化是一项艰巨的任务,它出现在从游戏到控制问题到机器学习的元参数优化等领域。我们展示了如何将启发式方法结合到随机同时优化(STOSOO)中,这是一种全局优化算法,对函数的要求非常弱。在我们的例子中,启发式以协方差矩阵适应进化策略(CMA-ES)的形式出现。新的算法称为引导STOSOO(STOSOO-G),它结合了CMA-ES的快速局部收敛能力(由于算法遵循“自然”梯度)和STOSO的全局优化能力。我们在黑盒优化基准测试套件上比较连续优化器的“较难”部分比较了所有三种算法,该基准测试套件提供了一组默认的测试函数。我们表明,我们的方法保持了两个世界的最佳状态,即使用CMA-ES的局部优化强度。

MSC公司:

90C26型 非凸规划,全局优化
90 C59 数学规划中的近似方法和启发式
PDF格式BibTeX公司 XML格式引用
全文: 内政部 链接

参考文献:

[1] Browne,C.,Powley,E.,Whitehouse,D.,Lucas,S.,Cowling,P.,Rohlfshagen,P.、Tadere,S.、Perez,D.、Samothrakis,S.和Colton,S.:蒙特卡洛树搜索方法的调查。IEEE传输。计算。智力。AI游戏4(1),1-43(2012)·doi:10.1109/TCIAIG.2012.2186810
[2] Finck,S.、Hansen,N.、Ros,R.、Auger,A.:《2010年实时参数黑盒优化基准测试:噪声函数定义》(2012年)。http://coco.lri.fr/downloads/download11.06/bbobdocnoisyfunctions.pdf
[3] Gelly,S.,Wang,Y.,Munos,R.,Teytaud,O.,et al.:用蒙特卡罗go中的图案修改duct。INRIA技术代表(2006年)·Zbl 1272.90116号
[4] Glasmachers,T.、Schaul,T.,Yi,S.、Wierstra,D.、Schmidhuber,J.:指数自然进化策略。摘自:《第十二届遗传与进化计算年会论文集》,第393-400页。ACM(2010)·Zbl 1318.68159号
[5] 汉森,N。;Lozano,J.(编辑);Larranaga,P.(编辑);Inza,I.(编辑);Bengoetxea,E.(编辑),《CMA进化策略:比较评论》,75-102(2006),柏林·doi:10.1007/3-540-32494-14
[6] Hunter,D.R.,Lange,K.:mm算法教程。《美国统计》58(1),30-37(2004)·doi:10.1198/0003130042836
[7] 山猫卢卡斯;萨莫特拉基斯,S。;Perez,D.,《蒙特卡洛树搜索的快速进化适应》,349-360(2014),柏林
[8] Ollivier,Y。;Nielsen,F.(编辑);Barbaresco,F.(编辑),《信息几何优化:离散和连续优化的信息理论兴趣》,第8085期,第4-4页(2013年),柏林·Zbl 1311.94030号 ·doi:10.1007/978-3-642-40020-9_2
[9] Rios,L.,Sahinidis,N.:无导数优化:算法综述和软件实现比较。J.全球。最佳方案。56(3), 1247-1293 (2013). doi:10.1007/s10898-012-9951-y·Zbl 1272.90116号 ·doi:10.1007/s10898-012-9951-y
[10] Schaul,T.:在无噪音和噪音的黑盒优化试验台上比较自然进化策略和bipop-cma-es。摘自:《第14届遗传和进化计算年会论文集》,第237-244页。ACM(2012年)
[11] Silver,D.,Sutton,R.S.,Müller,M.:计算机go中的时差搜索。机器。学习。87(2), 183-219 (2012) ·Zbl 1238.91044号 ·doi:10.1007/s10994-012-5280-0
[12] I·美发师。;J.戈特利布。;Kao,O.,进化搜索中部分重启的影响,117-127(2002),柏林·Zbl 1054.68665号 ·数字对象标识代码:10.1007/3-540-46033-010
[13] Valko,M.,Carpentier,A.,Munos,R.:随机同步乐观优化。参加:第30届机器学习国际会议。亚特兰大,埃塔斯大学(2013)。http://hal.iria.fr/hal-00789606 ·Zbl 1054.68665号
[14] Wolpert,D.H.,Macready,W.G.:优化没有免费午餐定理。IEEE传输。进化。计算。1(1), 67-82 (1997) ·doi:10.1109/4235.585893
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。