×
杰弗里·拉尔森；斯蒂芬·比卢普斯（Stephen C.Billups）。

使用信赖域框架的随机无导数优化。 （英语） Zbl 1381.90098号

计算。最佳方案。申请。 64，编号3619-645（2016）.
摘要：本文提出了一种信赖域算法，当一个函数只能访问噪声破坏的函数值时，该算法可以最小化函数。基于模型的算法动态调整步长，当模型和函数一致时步长较大，当模型不太准确时步长较小。该方法不需要用户指定用于构建局部模型的点的固定模式，也不需要重复采样点。如果（f）足够光滑，且噪声独立且同分布且均值为零且方差有限，我们证明了我们的算法产生迭代，使得相应的函数梯度以概率收敛到零。我们提出了一个算法的原型，虽然它对先前评估的点的管理过于简单，但与现有的随机近似方法相比，用更少的函数评估来解决基准问题。

引用于18文件

MSC公司：

90 C56 无导数方法和使用广义导数的方法
62L20型 随机近似

关键词：

无导数优化；随机优化；基于模型的信赖域方法

软件：

UOBYQA公司；QNSTOP公司
PDF格式BibTeX公司 XML格式引用
\textit{J.Larson}和\textit{S.C.Billups}，计算。最佳方案。申请。64，第3号，619--645（2016；Zbl 1381.90098）
全文： 内政部 链接

参考文献：

[1] Amos，B.D.，Easterling，D.R.，Watson，L.T.，Castle，B.S.，Trosset，M.W.，Thacker，W.I.：用于全局和随机优化的QNSTOP的Fortran 95实现。载：《高性能计算研讨会论文集》，第15:1-15:8页。美国加利福尼亚州圣地亚哥国际计算机模拟学会（2014）·Zbl 0229.65053号
[2] Bandeira，A.S.、Scheinberg，K.、Vicente，法律公告：基于概率模型的信任区域方法的收敛性。SIAM J.Optim公司。24(3), 1238-1264 (2014) ·Zbl 1311.90186号 ·数字对象标识代码：10.1137/130915984
[3] Bastin，F.，Cirillo，C.，Toint，P.L.：计算混合logit估值器的自适应蒙特卡罗算法。CMS 3（1），55-79（2006）·Zbl 1136.62086号 ·doi:10.1007/s10287-005-0044-y
[4] Billups，S.C.、Larson，J.、Graf，P.：使用加权回归对具有计算误差的昂贵函数进行无导数优化。SIAM J.Optim公司。23(1), 27-53 (2013) ·Zbl 1295.90106号 ·数字对象标识代码：10.1137/100814688
[5] Box，G.，Wilson，K.：关于最佳条件的实验实现。J.R.统计社会服务。B（方法学）13（1），1-45（1951）·Zbl 0043.34402号
[6] Chang，K.H.，Hong，L.J.，Wan，H.：随机信任区域响应面方法（STRONG）——一种新的模拟优化响应面框架。信息J.计算。25(2), 230-243 (2012) ·doi:10.1287/ijoc.1120.0498
[7] Chen，R.，Menickelly，M.，Scheinberg，K.：使用信任区域方法和随机模型的随机优化（2015）。预打印http://arxiv.org/abs/1504.04231 ·Zbl 1401.90136号
[8] Conn，A.R.，Scheinberg，K.，Vicente，法律公告：无导数优化简介。工业和应用数学学会（2009）·Zbl 1163.49001号
[9] Deng，G.，Ferris，M.C.：UOBYQA算法对噪声函数的适应性。摘自：《2006年冬季模拟会议记录》，第312-319页。IEEE（2006）·兹比尔0749.3081
[10] Deng，G.，Ferris，M.C.：噪声函数直接优化算法的扩展。摘自：《2007年冬季模拟会议记录》，第497-504页。IEEE（2007）·邮编：1049.90004
[11] Dolan，E.D.，Moré，J.J.：用性能曲线对优化软件进行基准测试。数学。程序。91(2), 201-213 (2002) ·邮编：1049.90004 ·doi:10.1007/s101070100263
[12] Dupuis，P.，Simha，R.：关于抽样控制的随机近似。IEEE传输。自动。控制36（8），915-924（1991）·兹比尔0749.3081 ·doi:10.1109/9.133185
[13] Jones，D.R.，Perttunen，C.D.，Stuckman，B.E.：不含lipschitz常数的Lipschitzian优化。J.优化。理论应用。79(1), 157-181 (1993) ·Zbl 0796.49032号 ·doi:10.1007/BF00941892
[14] Kiefer，J.，Wolfowitz，J.：回归函数最大值的随机估计。安。数学。《美国联邦法律大全》第23（3）卷第462-466页（1952年）·兹比尔0049.36601 ·doi:10.1214/aoms/1177729392
[15] Larson，J.：噪声函数的无导数优化。科罗拉多大学丹佛分校博士学位（2012年）·Zbl 1136.62086号
[16] Moré，J.J.，Wild，S.M.：无导数优化算法的基准测试。SIAM J.Optim公司。20(1), 172-191 (2009) ·Zbl 1187.90319号 ·doi:10.1137/080724083
[17] Moré，J.J.，Wild，S.M.：估算计算噪声。SIAM J.科学。计算。33(3), 1292-1314 (2011) ·Zbl 1243.65016号 ·数字对象标识代码：10.1137/100786125
[18] Moré，J.J.，Wild，S.M.：估计噪声模拟的导数。ACM事务处理。数学。柔和。38(3), 1-21 (2012) ·Zbl 1365.65056号 ·doi:10.1145/2168773.2168777
[19] Myers，R.H.，Montgomery，D.C.，Vining，G.G.，Borror，C.M.，Kowalski，S.M.：响应面方法：回顾性和文献调查。J.资格。Technol公司。36(1), 53-77 (2004)
[20] Nedić，A.，Bertsekas，D.P.：次梯度方法中确定性噪声的影响。数学。程序。125(1), 75-99 (2009) ·Zbl 1205.90225号
[21] Nelder，J.A.，Mead，R.：函数最小化的单纯形方法。计算。J.7（4），308-313（1965）·Zbl 0229.65053号 ·doi:10.1093/comjnl/7.4.308
[22] Powell，M.：UOBYQA：二次近似无约束优化。数学。程序。92(3), 555-582 (2002) ·兹比尔1014.65050
[23] Scheinberg，K.：在无导数优化中使用随机模型。在“数学规划国际研讨会”（2012年）上的全体演讲·Zbl 0796.49032号
[24] Spall，J.C.：使用同时扰动梯度近似的多变量随机近似。IEEE传输。自动。控制37（3），332-341（1992）·Zbl 0745.60110号 ·doi:10.1109/9.119632
[25] Spall，J.C.：随机搜索和优化简介。霍博肯·威利（2003）·邮编1088.90002 ·doi:10.1002/0471722138
[26] Tomick，J.、Arnold，S.、Barton，R.：提高nelder蜂蜜酒性能的样本量选择。1995年冬季模拟会议记录，第341-345页。IEEE（1995）·Zbl 0745.60110号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。