×

一种求解有限极小极大问题的无导数近似梯度采样算法。 (英语) Zbl 1300.90064号

摘要:本文提出了一种求解有限极大极小问题的无导数优化算法。该算法计算有限最大函数的每个活动函数的近似梯度,并使用这些函数生成近似次微分。在类似Armijo的直线搜索中,0在该集合上的负投影用作下降方向。我们还提出了该算法的一个稳健版本,它在计算近似次微分时使用有限极大函数的“几乎活动”函数。给出了两种算法的收敛结果,表明要么(f(x^{k})\rightarrow-\infty)要么每个簇点都是Clarke驻点。给出了三种特定近似梯度的理论和数值结果:单纯形梯度、中心单纯形坡度和Steklov平均函数梯度的Gupal估计。对常规和鲁棒算法、三种近似梯度以及常规和鲁棒停止条件进行了性能比较。

MSC公司:

90立方厘米 数学规划中的极小极大问题
90 C56 无导数方法和使用广义导数的方法
PDF格式BibTeX公司 XML格式引用
全文: 内政部 链接

参考文献:

[1] Abramson,A.M.、Audet,C.、Couture,G.、Dennis,J.E.Jr.、Le Digabel,S.、Tribes,C.:NOMAD项目。软件可在http://www.gerad.ca/游牧民 ·Zbl 1065.15029号
[2] Bagirov,A.M.,Karasözen,B.,Sezer,M.:离散梯度法:非光滑优化的无导数方法。J.优化。理论应用。137(2), 317-334 (2008) ·Zbl 1165.90021号 ·doi:10.1007/s10957-007-9335-5
[3] Bauschke,H.H.,Combettes,P.L.:希尔伯特空间中的凸分析和单调算子理论。CMS数学书籍。施普林格,纽约(2011)·Zbl 1218.47001号 ·doi:10.1007/978-1-4419-9467-7
[4] 布克,A.J。;丹尼斯·J·E。;P.D.弗兰克。;Serafini,D.B。;Torczon,V.,《在直升机测试示例上使用替代目标进行优化》,弗吉尼亚州阿灵顿,1997年,波士顿·Zbl 0937.76067号 ·doi:10.1007/978-1-4612-1780-03
[5] Bortz,D.M。;Kelley,C.T.,《单纯形梯度和噪声优化问题》,第24期,77-90(1998),波士顿·Zbl 0927.65077号 ·doi:10.1007/978-1-4612-1780-05
[6] Burke,J.V.,Lewis,A.S.,Overton,M.L.:通过梯度的随机采样来近似次微分。数学。操作。第27(3)号决议,567-584(2002)·Zbl 1082.49019号 ·doi:10.1287/门27.3.567.317
[7] Burke,J.V.,Lewis,A.S.,Overton,M.L.:用于非光滑、非凸优化的稳健梯度采样算法。SIAM J.Optim公司。15(3), 751-779 (2005) ·Zbl 1078.65048号 ·数字对象标识代码:10.1137/030601296
[8] Cai,X.、Teo,K.、Yang,X.和Zhou,X.:极小极大规则下的投资组合优化。管理。科学。46(7), 957-972 (2000) ·Zbl 1231.91149号 ·doi:10.1287/mnsc.46.7.957.12039
[9] Clarke,F.H.:优化和非光滑分析,第2版。经典应用。数学。,第5卷。SIAM,费城(1990)·Zbl 0696.49002号 ·doi:10.1137/1.9781611971309
[10] Conn,A.R.,Scheinberg,K.,Vicente,法律公告:无导数优化简介。MPS/SIAM优化系列,第8卷。SIAM,费城(2009)·兹比尔1163.49001 ·数字对象标识代码:10.1137/1.9780898718768
[11] Custódio,A.L.,Dennis,J.E.Jr.,Vicente,L.:在直接搜索方法中使用非光滑函数的单纯形梯度。IMA J.数字。分析。28(4), 770-784 (2008) ·Zbl 1156.65059号 ·doi:10.1093/imanum/drn045
[12] Custódio,A.L.,Vicente,法律公告:在模式搜索方法中使用采样和单纯形导数。SIAM J.Optim公司。18(2),537-555(2007)·Zbl 1144.65039号 ·数字对象标识代码:10.1137/050646706
[13] Dennis,J.E.Jr.,Schnabel,R.B.:无约束优化和非线性方程的数值方法。应用数学经典。SIAM,费城(1996)·Zbl 0847.65038号 ·doi:10.1137/1.9781611971200
[14] Dolan,E.D.,Moré,J.J.:用性能曲线对优化软件进行基准测试。数学。程序。91(2,序列号A),201-213(2002)·邮编:1049.90004 ·doi:10.1007/s101070100263
[15] Duvigneau,R.,Visonneau,M.:使用无导数方法的水动力设计。结构。多磁盘。最佳方案。28, 195-205 (2004) ·Zbl 1067.76589号 ·doi:10.1007/s00158-004-0414-z
[16] Ermoliev,Y.M.,Norkin,V.I.,Wets,R.J.-B.:半连续函数的最小化:缓和子梯度。SIAM J.控制优化。33149-167(1995年)·Zbl 0822.49016号 ·doi:10.1137/S0363012992238369
[17] Goldstein,A.A.:Lipschitz连续函数的优化。数学。程序。13(1), 14-22 (1977) ·Zbl 0394.90088号 ·doi:10.1007/BF01584320
[18] Gupal,A.M.:一种最小化几乎可微函数的方法。Kibernetika 1114-116(1977)(俄语);英文翻译:《控制论》,13(2),220-222(1977)
[19] Hare,W.,Macklem,M.:有限极大极小问题的无导数优化方法。最佳方案。方法软件。28(2), 300-312 (2013) ·Zbl 1270.90099 ·doi:10.1080/10556788.2011.638923
[20] Hare,W.L.,《在家庭和社区护理预测模型中使用无导数优化进行约束参数选择》,61-73(2010)
[21] Imae,J.,Ohtsuki,N.,Kikuchi,Y.,Kobayashi,T.:基于遗传编程的非线性系统的极小极大控制设计:Jung的集体无意识方法。国际期刊系统。科学。35, 775-785 (2004) ·Zbl 1081.93008号 ·网址:10.1080/00207720412331303705
[22] Kelley,C.T.:使用充分减少条件检测和修复Nelder-Mead算法中的停滞。SIAM J.Optim公司。10(1), 43-55 (1999) ·Zbl 0962.65048号 ·doi:10.1137/S1052623497315203
[23] Kelley,C.T.:优化的迭代方法。应用数学前沿,第18卷。费城SIAM(1999年)·Zbl 0934.90082号 ·数字对象标识代码:10.1137/1.9781611970920
[24] Kiwiel,K.C.:非光滑非凸优化梯度采样算法的非导数版本。SIAM J.Optim公司。20(4), 1983-1994 (2010) ·Zbl 1205.90230号 ·doi:10.1137/090748408
[25] Le Digabel,S.:算法909:NOMAD:使用MADS算法进行非线性优化。ACM事务处理。数学。柔和。37(4), 1-15 (2011) ·Zbl 1365.65172号 ·数字对象标识代码:10.1145/1916461.1916468
[26] Liuzzi,G.,Lucidi,S.,Sciandone,M.:线性约束有限极大极小问题的无导数算法。SIAM J.Optim公司。16(4), 1054-1075 (2006) ·Zbl 1131.90074号 ·doi:10.1137/040615821
[27] Lukšan,L.,Vlček,J.:非光滑无约束和线性约束优化的测试问题。技术报告(2000年2月)
[28] Madsen,K.:不计算导数的非线性方程的Minimax解。数学。程序。螺柱3110-126(1975)·Zbl 0364.90085号 ·doi:10.1007/BFb0120701
[29] Marsden,A.L.、Feinstein,J.A.、Taylor,C.A.:心血管几何无导数优化的计算框架。计算。方法应用。机械。工程197(21-24),1890-1905(2008)·Zbl 1194.76296号 ·doi:10.1016/j.cma.2007.12.009
[30] Nocedal,J.、Wright,S.J.:数值优化。Springer运筹学系列。纽约施普林格出版社(1999年)·Zbl 0930.65067号 ·数字对象标识代码:10.1007/b98874
[31] Di Pillo,G.,Grippo,L.,Lucidi,S.:有限极大极小问题的光滑方法。数学。程序。,序列号。A 60(2),187-214(1993)·Zbl 0799.90106号 ·doi:10.1007/BF01580609
[32] Polak,E.:关于工程设计中不可微优化的数学基础。SIAM版本29(1),21-89(1987)·数字对象标识代码:10.1137/1029002
[33] Polak,E.,Royset,J.O.,Womersley,R.S.:有限极小极大问题的自适应平滑算法。J.优化。理论应用。119(3), 459-484 (2003) ·Zbl 1061.90117号 ·doi:10.1023/B:JOTA.00006685.60019.3e
[34] Polyak,R.A.:极小极大问题的平滑优化方法。SIAM J.控制优化。26(6), 1274-1286 (1988) ·Zbl 0657.90075号 ·doi:10.1137/0326071
[35] Rockafellar,R.T.,Wets,R.J.-B.:变分分析。Grundlehren der Mathematischen Wissenschaften[数学科学基本原理],第317卷。柏林施普林格(1998)·Zbl 0888.49001号 ·doi:10.1007/978-3-642-02431-3
[36] Stafford,R.:n维超球体中的随机点。MATLAB文件交换(2005)。网址:http://www.mathworks.com/matlabcentral/fileexchange/9443-random-points-in-an-n-dimensional-hypersphere ·Zbl 1165.90021号
[37] Wolfe,P.:最小化不可微函数的共轭次梯度方法。数学。程序。螺柱3145-173(1975)·Zbl 0369.90093号 ·doi:10.1007/BFb0120703
[38] Wschebor,M.:κ(A)的平滑分析。J.复杂。20(1), 97-107 (2004) ·Zbl 1065.15029号 ·doi:10.1016/j.jco.2003.09.003
[39] Xu,S.:极小极大问题的平滑方法。计算。最佳方案。申请。20(3), 267-279 (2001) ·Zbl 1054.90087号 ·doi:10.1023/A:1011211101714
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。