沃伦·黑尔 关于无导数优化中变分分析的讨论。 （英语） Zbl 1473.49019号 设定值变量分析。 28，第4期，643-659（2020年）. 无导数优化（DFO）是对不使用一阶信息的连续优化算法的数学研究。因此，根据定义，DFO研究的算法不使用导数、梯度、方向导数、次梯度、法向锥、切线锥等。因此，变分分析在DFO研究中的价值可能有限。然而，对DFO的研究表明，这是一个错误的结论。事实上，许多最成功的DFO算法在很大程度上依赖于变分分析的工具和结果。在本文中，作者重点介绍了其中的一些研究，并认为变分分析是研究DFO的一个关键组成部分。审核人：查迪·努尔（比布鲁斯） 引用于1文件 MSC公司： 49J52型 非平滑分析 90 C56 无导数方法和使用广义导数的方法 65千5 数值数学规划方法 关键词：无导数优化;变分分析;直接搜索法;基于模型的方法;订单-（N\）准确性 软件：GradSamp公司;UOBYQA公司;康多尔;DFO公司;BOBYQA公司;DGM公司;科比拉2;ASTRO-DF公司;轨道;多最小值;助推器;MOIF公司;DFO-TRNS公司 PDF格式BibTeX公司 XML格式引用 \textit{W.Hare}，设定值变量分析。28，第4号，643--659（2020；Zbl 1473.49019） 全文： 内政部 参考文献： [1] Amaioua，北。；Audet，C。；连接器，AR；Le Digabel，S.，网格自适应直接搜索算法中二次约束二次子问题的有效解，Eur.J.Oper。第268、1、13-24号决议（2018年）·Zbl 1403.90618号 [2] Audet，C.，广义模式搜索算法的收敛结果很紧，Optim。工程师，5，2，101-122（2004）·Zbl 1085.90053号 [3] Audet，C。；贝查德，V。；Le Digabel，S.，通过网格自适应直接搜索和可变邻域搜索进行非光滑优化，J Glob Optim，41，299-318（2008）·Zbl 1157.90535号 [4] Audet，C。；科特迪瓦，P。；Poissant，C。；Tribes，C.，单调灰盒直接搜索优化，Optim。莱特。，14, 3-18 (2020) ·Zbl 1433.90200 [5] Audet，C。；Dennis，JEJr，《广义模式搜索分析》，SIAM J.Optim。，13, 3, 889-903 (2003) ·Zbl 1053.90118号 [6] Audet，C。；Dennis，JE，Jr.约束优化的网格自适应直接搜索算法，SIAM J.Optim。，17, 1, 188-217 (2006) ·Zbl 1112.90078号 [7] Audet，C。；杰·丹尼斯；Le Digabel，S.，网格自适应直接搜索的全球化策略，计算。最佳方案。申请。，46, 2, 193-215 (2010) ·Zbl 1190.90204号 [8] Audet，C。；Hare，W.，Derivative-Free and Blackbox Optimization（2017），瑞士：施普林格国际出版公司，瑞士·Zbl 1391.90001号 [9] Audet，C。；Hare，W.，方向导数次微分的算法构造，集值变量分析。，26, 3, 431-447 (2018) ·Zbl 1403.52009年 [10] Audet，C.，Hare，W.：无导数非光滑优化中的基于模型的方法，第18章。在：Bagirov，A.，Gaudioso，M.，Karmitsa，N.，Mäkelä，M（编辑）数值非光滑优化。施普林格（2020） [11] Audet，C。；伊安尼，A。；Le Digabel，S。；Tribes，C.，减少网格自适应直接搜索算法中的函数求值次数，SIAM J.Optim。，24, 2, 621-642 (2014) ·Zbl 1297.90149号 [12] Audet，C。；Ihaddadene，A。；Le Digabel，S。；Tribes，C.，使用网格自适应直接搜索算法的噪声黑盒问题的鲁棒优化，Optim。莱特。，12，4675-689（2018）·Zbl 1403.90619号 [13] Audet，C。；Le Digabel，S。；Tribes，C.，颗粒和离散变量的网格自适应直接搜索算法，SIAM J.Optim。，29, 2, 1164-1189 (2019) ·Zbl 1411.90229号 [14] Audet，C。；萨瓦德，G。；Zghal，W.，多目标优化的网格自适应直接搜索算法，Eur.J.Oper。第204、3545-556号决议（2010年）·Zbl 1181.90137号 [15] Audet，C。；部落，C.，基于网格的nelder？不等式约束优化的mead算法，计算。最佳方案。申请。，71, 2, 331-352 (2018) ·Zbl 1409.90181号 [16] 阿齐兹，M。；黑尔，W。；Jaberipour，M。；Lucet，Y.，道路设计中水平线形问题的多精度算法，工程优化。，0, 1-20 (2019) [17] 巴吉洛夫，AM；Karasözen，B。；Sezer，M.，《离散梯度法：非光滑优化的无导数方法》，J.Optim。理论应用。，137, 2, 317-334 (2008) ·Zbl 1165.90021号 [18] 巴贾杰，I。；艾耶，SS；Hasan，MMF，基于信任区域的两阶段算法，用于初始点不可行的约束黑盒和灰盒优化，计算。化学。工程，116，306-321（2018） [19] Berahas，AS；伯德，RH；Nocedal，J.，通过拟N，ewton方法对噪声函数进行无导数优化，SIAM J.Optim。，29, 2, 965-993 (2019) ·Zbl 1411.90359号 [20] Berghen，F.V.：CONDOR：连续、高计算负载、噪声目标函数的约束、非线性、无导数并行优化程序。比利时布鲁塞尔自由大学博士论文（2004年） [21] Berghen，FV；Bersini，H.，CONDOR，鲍威尔UOBYQA算法的一种新的并行约束扩展：实验结果以及与DFO算法的比较，jcomam，181157-175（2005）·Zbl 1072.65088号 [22] 博图，L。；FE柯蒂斯；Nocedal，J.，《大规模机器学习的优化方法》，SIAM Rev.，60，2，223-311（2018）·Zbl 1397.65085号 [23] 伯克，合资公司；路易斯，AS；Overton，ML，用于非光滑、非凸优化的稳健梯度采样算法，SIAM J.Optim。，15751--779（2005年）·Zbl 1078.65048号 [24] Chen，R。；Menickelly，M。；Scheinberg，K.，使用信任域方法和随机模型的随机优化，数学。程序。，169, 447-487 (2018) ·Zbl 1401.90136号 [25] 科奇，G。；刘齐，G。；帕皮尼，A。；Sciandone，M.，带方框约束的无导数多目标优化的隐式滤波算法，计算。最佳方案。申请。，69, 2, 267-296 (2018) ·Zbl 1400.90269号 [26] Conn，A.R.，Scheinberg，K.，Toint，Ph.L.：实践中的无导数优化算法。摘自：第七届美国国际航空航天局/美国空军/美国国家航空航天局/ISSMO多学科分析与优化研讨会论文集。http://perso.fundp.ac.be/phtoint/pubs/TR98-11.ps (1998) [27] Conn，A.R.，Scheinberg，K.，Toint，P.h.L.:DFO（无导数优化）https://projects.coin-or.org/Dfo网站 (2001) ·Zbl 1042.90617号 [28] 连接器，AR；Scheinberg，K.，L.n.Vicente。无导数优化中样本集的几何形状多项式回归和欠定插值，IMA J.Numer。分析。，28, 4, 721-749 (2008) ·Zbl 1157.65034号 [29] 连接器，AR；Scheinberg，K。；Vicente，LN，《无导数MOS-SIAM优化导论》。优化系列（2009），费城：SIAM，费城·兹比尔1163.49001 [30] 连接器，AR；Toint，PhL，无约束导数自由优化的二次插值算法，27-47（1996），柏林：Springer，柏林·Zbl 0976.90102号 [31] Coope，I.D.，Tappenden，R.：正则单纯形梯度的有效计算。计算。最佳方案。申请。即将出现（2019年）·Zbl 1414.90363号 [32] 阿联酋库斯托迪奥；马德拉，JFA；瓦兹，AIF；维森特，LN，多目标优化的直接多搜索，SIAM J.Optim。，21, 3, 1109-1140 (2011) ·Zbl 1230.90167号 [33] 语法，RB；Le Digabel，S.，带树高斯过程代理的网格自适应直接搜索算法，太平洋J.Optim。，11, 3, 419-447 (2015) ·Zbl 1327.90308号 [34] Hare，W.，凸函数和完全线性模型的组成，Optim。莱特。，11, 7, 1217-1227 (2017) ·Zbl 1408.90323号 [35] 黑尔，W。；Jaberipour，M.，《无导数优化中的自适应插值策略：案例研究》，太平洋。J.Optim。，14227-347（2018）·兹伯利1474.90521 [36] 黑尔，W。；Jarry-Bolduc，G.，广义单纯形梯度的微积分恒等式规则和应用，SIAM J.Optim。，30, 1, 853-884 (2020) ·Zbl 1461.90170号 [37] 黑尔，W。；Nutini，J.，有限极大极小问题的无导数近似梯度采样算法，计算。最佳方案。申请。，56, 1, 1-38 (2013) ·Zbl 1300.90064号 [38] 黑尔，W。；Nutini，J。；Tesfamariam，S.，《结构工程中非梯度优化方法的调查》，高级工程软件。，59, 19-28 (2013) [39] Hare，W.，Planiden，C.，Sagastizábal，C.：凸有限最大问题的无导数VU算法。最佳方案。方法软件。，（显示）。doi:10.1080/10556788.2019.1668944·Zbl 1443.90331号 [40] 黑尔，W。；萨加斯蒂扎巴尔，C。；Solodov，M.，具有不精确信息的非光滑非凸函数的近端束方法，计算。Optim应用。，63, 1, 1-28 (2016) ·Zbl 1343.90069号 [41] 兔子，WL；Lucet，Y.，通过近点方法进行无导数优化，J.Optim。理论应用。，160, 1, 204-220 (2014) ·Zbl 1291.90317号 [42] 胡克，R。；TA Jeeves，《数值和统计问题的“直接搜索”解决方案》，J.Assoc.Compute。机器。，212-229年8月2日（1961年）·Zbl 0111.12501号 [43] 汗，KA；Larson，J。；Wild，SM，优化非凸函数的流形采样，这些函数是光滑分量的分段线性组合，SIAM J.Optim。，28, 4, 3001-3024 (2018) ·Zbl 1407.90351号 [44] Larson，J。；Menickelly，M。；野生、SM、歧管取样Ş1非凸优化，SIAM J.Optim。，26, 4, 2540-2563 (2016) ·Zbl 1351.90167号 [45] Larson，J。；Menickelly，M。；Wild，SM，无导数优化方法，《数值学报》，28，287-404（2019）·Zbl 1461.65169号 [46] Lera，D。；Sergeyev，YD，GOSH:使用多维空间填充曲线的无导数全局优化，J.global Optim。，7193-211（2018）·Zbl 1402.90133号 [47] 刘齐，G。；Lucidi，S。；Rinaldi，F。；Vicente，LN，非光滑黑盒函数无导数优化的信赖域方法，SIAM J.Optim。，29, 4, 3012-3035 (2019) ·Zbl 1427.90298号 [48] Menickelly，M。；Wild、SM、外部近似无导数稳健优化、数学。程序。，179, 1-2, 157-193 (2020) ·Zbl 1435.90096号 [49] Mifflin，R.，《不求导数的极小化超线性收敛算法》，数学。程序。，9, 1, 100-117 (1975) ·Zbl 0327.90027号 [50] Müller，J.，Day，M.：具有隐藏约束的计算代价高昂的黑盒问题的替代优化。信息J.计算。即将出现（2019年）·Zbl 1528.90199号 [51] 内尔德，JA；Mead，R.，函数最小化的单纯形方法，计算。J.，7，4，308-313（1965）·Zbl 0229.65053号 [52] 机动，R。；Bierlaire，M.，Booster：基于径向基函数的无导数算法，国际J模型。模拟。，29, 1, 26-36 (2009) [53] Paquette，C.，Scheinberg，K.：具有收敛速度分析的随机线搜索方法（2018）·Zbl 1431.90153号 [54] Polak，E。；Wetter，M.，具有自适应精度函数评估的广义模式搜索算法的精度控制，SIAM J.Optim。，16, 3, 650-669 (2006) ·Zbl 1113.90148号 [55] Powell，M.J.D.：通过线性插值对目标和约束函数建模的直接搜索优化方法。收录于：Gomez，S.、Hennart，J.-P.（eds.）《优化和数值分析进展》，第六届优化与数值分析研讨会论文集，墨西哥瓦哈卡，第275卷，第51-67页，Kluwer学术出版社，多德雷赫特（1994）·Zbl 0826.90108号 [56] Powell，M.J.D.：UOBYQA：二次近似无约束优化。技术报告DAMTP 2000/NA14，英国剑桥大学应用数学和理论物理系，剑桥银街，剑桥CB3 9EW（2000）·Zbl 1014.65050号 [57] Powell，MJD，UOBYQA：二次近似无约束优化，数学。程序。，92, 3, 555-582 (2002) ·Zbl 1014.65050号 [58] Powell，MJD，无导数无约束极小化的信赖域方法，数学。程序。，97, 3, 605-623 (2003) ·Zbl 1106.90382号 [59] Powell，MJD，满足插值条件的二次模型的最小Frobenius范数更新，数学。程序。，100, 1, 183-215 (2004) ·Zbl 1146.90526号 [60] Powell，M.J.D.：无导数的有界约束优化的BOBYQA算法。英国剑桥大学应用数学和理论物理系技术报告（2009年） [61] Regis，RG，《单纯形梯度演算》，Optim。莱特。，9, 5, 845-865 (2015) ·Zbl 1351.90168号 [62] Regis，RG，关于正生成集和正基的性质，Optim。工程师，1729-262（2016）·Zbl 1364.90364号 [63] 瑞吉斯，RG；Shoemaker，CA，昂贵函数全局优化的并行径向基函数方法，欧洲期刊Oper。研究，182，2，514-535（2007）·Zbl 1178.90279号 [64] 里奥斯，LM；Sahinidis，NV，《无导数优化：算法综述和软件实现比较》，J.Glob。最佳。，56, 3, 1247-1293 (2013) ·Zbl 1272.90116号 [65] Shashaani，S。；哈希米，FS；Pasupathy，R.，ASTRO-DF:一类用于无导数随机优化的自适应采样信赖域算法，SIAM J.Optim。，28, 4, 3145-3176 (2018) ·Zbl 1403.90541号 [66] Torczon，V.，关于模式搜索算法的收敛性，SIAM J.Optim。，7, 1, 1-25 (1997) ·Zbl 0884.65053号 [67] Verdério，A。；卡拉斯，EW；佩德罗索，LG；Scheinberg，K.，《关于构建无导数信任区域算法的二次模型》，EURO J.Compute Optim，5501-527（2017）·Zbl 1386.90181号 [68] 野生，山猫；瑞吉斯，RG；Shoemaker，CA，ORBIT:通过信任区域中的径向基函数插值进行优化，SIAM J.Sci。计算。，30, 6, 3197-3219 (2008) ·Zbl 1178.65065号 [69] 野生，山猫；肖梅克，CA，径向基函数信赖域无导数算法的全局收敛性，SIAM J.Optim。，21761-781（2011年）·Zbl 1397.65024号 [70] Winfield，D.：通过数据表中的插值进行函数和函数优化。美国哈佛大学博士论文（1969） 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。