×

基于值函数优化的非凸鲁棒规划。 (英语) Zbl 1469.90099号

摘要:基于凸规划的鲁棒优化是过去二十年中一个活跃的研究课题,部分原因是它对许多类优化问题和不确定性集具有计算可处理性。然而,现代运筹学和统计学习应用程序中产生的许多问题即使在名义上也是非凸的,更不用说它们的健壮对应项了。本文介绍了一种处理鲁棒优化问题非凸性的系统方法,该问题通常与最坏情况值函数所带来的目标函数的非光滑性相耦合。提出了一种优化最小化算法来求解鲁棒化问题的惩罚min-max公式,该公式与起点(通常被选为非鲁棒最优解)相比,确定性地生成了“更好”的解。建立了关于方向平稳性的广义鞍点定理,并对计算解进行了博弈论解释。数值实验表明,与未加扰优化问题相比,非凸鲁棒优化问题的计算解对数据扰动的敏感性较小。

MSC公司:

90立方厘米 数学规划中的稳健性
90C26型 非凸规划,全局优化
PDF格式BibTeX公司 XML格式引用
全文: DOI程序

参考文献:

[1] 安(Ang,M.)。;Sun,J。;Yao,Q.,《关于一致风险度量的双重表示》,Ann.Oper。第262、1、29-46号决议(2018年)·Zbl 1391.91105号 ·文件编号:10.1007/s10479-017-2441-3
[2] 巴,Q。;Pang,JS,广义Nash均衡问题的精确惩罚,Oper。决议(2020年)·兹比尔1497.91016 ·doi:10.1287/操作2019.1942
[3] Ben-Tal,A。;El-Ghoui,L。;Nemirovski,A.,《稳健优化》(2009),普林斯顿:普林斯顿大学出版社,普林斯顿·Zbl 1221.90001号 ·doi:10.1515/9781400831050
[4] Bertsimas博士。;布朗,DB;Caramanis,C.,鲁棒优化的理论和应用,SIAM Rev.,53,3464-501(2011)·Zbl 1233.90259号 ·doi:10.1137/080734510
[5] Bertsimas博士。;O.诺哈达尼。;Teo,KM,基于无约束仿真问题的稳健优化,Oper。第58号、第1号、第161-178号决议(2010年)·Zbl 1226.90074号 ·doi:10.1287/opre.1090.715
[6] Bertsimas博士。;O.诺哈达尼。;Teo,KM,带约束问题的非凸鲁棒优化,INFORMS J.Compute。,22, 1, 44-58 (2010) ·Zbl 1243.90176号 ·doi:10.1287/ijoc.1090.0319
[7] 陈,X。;Fukushima,M.,随机线性互补问题的期望残差最小化方法,数学。操作。研究,30,4,1022-1038(2005)·兹比尔1162.90527 ·doi:10.1287/门.1050.0160
[8] 陈,X。;张,C。;Fukushima,M.,单调随机线性互补问题的稳健解,数学。程序。,117, 51-80 (2009) ·Zbl 1165.90012号 ·doi:10.1007/s10107-007-0163-z
[9] Clarke,FH,广义梯度和应用,Trans。美国数学。《社会学杂志》,205247-262(1975)·兹伯利0307.26012 ·doi:10.1090/S0002-9947-1975-0367131-6
[10] Clarke,F.H.:优化和非光滑分析。《应用数学经典》,第5卷,工业和应用数学学会(1990年)(约翰·威利出版社再版,纽约,1983年)·Zbl 0582.49001号
[11] 崔,Y。;何,Z。;Pang,JS,训练深度神经网络的多成分非凸优化,SIAM J.Optim。,30, 2, 1693-1723 (2020) ·Zbl 1445.90086号 ·doi:10.1137/18M1231559
[12] 崔,Y。;庞,JS;Sen,B.,现代统计估计问题的复合差分-最大程序,SIAM J.Optim。,2833344-3374(2018)·Zbl 1407.62250号 ·doi:10.1137/18M117337X
[13] Danskin,JM Jr,《最大最小理论及其应用》,SIAM J.Appl。数学。,14, 4, 641-664 (1966) ·Zbl 0144.43301号 ·数字对象标识代码:10.1137/0114053
[14] 德米扬诺夫,心室颤动;Di Pillo,G。;Facchinei,F.,通过Dini和Hadamard条件导数的精确惩罚,Optim。方法软件。,9, 1-3, 19-36 (1998) ·Zbl 0903.90149号 ·doi:10.1080/10556789808805684
[15] Di Pillo,G。;法奇尼,F。;佛罗里达州克拉克;德米扬诺夫,心室颤动;Giannessi,F.,不可微分规划问题的精确罚函数,非光滑优化和相关主题,89-107(1989),纽约:施普林格,纽约·Zbl 0735.90061号 ·doi:10.1007/978-1-4757-6019-47
[16] Di Pillo,G。;法奇尼,F。;Giannessi,F.,Lipschitz规划问题中的正则条件和精确惩罚函数,非光滑优化方法和应用,107-120(1992),纽约:Gordon and Breach,纽约·Zbl 1050.90549号
[17] Di Pillo,G。;Grippo,L.,约束优化中的精确罚函数,SIAM J.Control Optim。,27, 6, 1333-1360 (1988) ·Zbl 0681.49035号 ·数字对象标识代码:10.1137/0327068
[18] 法奇尼,F。;Pang,JS,《有限维变分不等式与互补问题》(2003),纽约:Springer出版社,纽约·Zbl 1062.90002号
[19] 法奇尼,F。;庞,JS;Scutari,G.,具有最小最大目标的非合作游戏,计算。最佳方案。申请。,59, 1-2, 85-112 (2014) ·Zbl 1307.91013号 ·doi:10.1007/s10589-014-9642-3
[20] Goldfarb,D。;Iyengar,G.,稳健投资组合选择问题,数学。操作。第28、1、1-38号决议(2003年)·Zbl 1082.90082 ·doi:10.1287/门28.1.1.14260
[21] Goodfellow,I.,Shlens,J.,Szegedy,C.:解释和利用对抗性示例。参加:国际学习代表大会(2015年)
[22] 戈里森,B。;Yan Na koǧlu,I。;den Hertog,D.,稳健优化实用指南,Omega,53,124-137(2015)·doi:10.1016/j.omega,2014年12月6日
[23] 胡,J。;J.米切尔。;庞,JS;Yu,B.,关于线性互补约束的线性规划,J.Glob。最佳。,53, 1, 29-51 (2012) ·Zbl 1254.90111号 ·doi:10.1007/s10898-010-9644-3
[24] Lange,K.,MM优化算法(2016),费城:工业和应用数学学会,费城·Zbl 1357.90002号 ·doi:10.1137/1.9781611974409
[25] Leyfer,S.,Menickelly,M.,Munson,T.,Vanaret,C.,Wild,S.M.:非线性鲁棒优化。预印ANL/MCS-P9040-0218,阿贡国家实验室数学和计算机科学部(2018)
[26] 李伟(Li,W.)。;Singer,I.,凸多函数和应用的全局误差界,数学。操作。第23、2、443-462号决议(1998年)·Zbl 0977.90054号 ·doi:10.1287/门23.2.443
[27] 卢,Z。;孙,Z。;Zhou,Z.,一类结构化非光滑DC最小化的带外推的增强近端DC算法,数学。程序。,序列号。B、 176、1-2、369-401(2019)·Zbl 1415.90091号 ·doi:10.1007/s10107-018-1318-9
[28] 罗,ZQ;庞,J-S;Ralph,D.,《具有平衡约束的数学程序》(1996),剑桥:剑桥大学出版社,剑桥·Zbl 0898.90006号 ·doi:10.1017/CBO9780511983658
[29] 罗,ZQ;Tseng,P.,线性系统条件数的摄动分析,SIAM J.矩阵分析。申请。,15, 2, 636-660 (1994) ·Zbl 0799.65063号 ·doi:10.1137/S089547979892224768
[30] Madry,A.、Makelov,A.、Schmidt,L.、Tsipras,D.、Vladu,A.:面向对抗性攻击的深度学习模型。参加:学习代表国际会议(2018年)
[31] Nesterov,Y.,一种求解具有收敛速度的凸规划问题的方法\(O(1/k^2)\),Sov。数学。道克。,27, 372-376 (1983) ·Zbl 0535.90071号
[32] Ng、KF;Zheng,XY,赋范空间中下半连续函数的误差界,SIAM J.Optim。,12, 1, 1-17 (2001) ·Zbl 1040.90041号 ·doi:10.1137/S1052623499358884
[33] Pang,JS,数学编程中的误差界限,数学。程序。,序列号。B、 79、1-3、299-332(1997)·Zbl 0887.90165号
[34] 庞,JS;拉扎维亚因,M。;Alvarado,A.,计算非光滑直流程序的B-驻点,数学。操作。第42号、第1号、第95-118号决议(2016年)·Zbl 1359.90106号 ·doi:10.1287/门.2016.0795
[35] 庞,JS;Scutari,G.,带边约束的非凸博弈,SIAM J.Optim。,21, 4, 1491-1522 (2011) ·兹比尔1246.91022 ·数字对象标识代码:10.1137/100811787
[36] Papernot,N.、McDaniel,P.、Jha,S.、Fredrikson,M.、Celik,Z.B.、Z.B.和Swami,A.:对抗环境中深度学习的局限性。2016年IEEE欧洲安全与隐私研讨会(EuroS&P),第372-387页(2016)
[37] Qi,Z.,Cui,Y.,Liu,Y.,Pang,J.S.:耦合非凸非光滑经验风险最小化平稳解的渐近分析。arXiv:1910.02488(2019年10月)
[38] Rockafellar,R.T.:不确定性下优化风险的一致方法。摘自:《运筹学教程》,第38-61页。信息(2007)
[39] Scholtes,S.:分段可微方程简介。Springer优化简报(2002)·Zbl 1453.49002号
[40] Soyster,AL,集非决定性约束的凸规划及其在不精确线性规划中的应用,Oper。决议,21,5,1154-1157(1973)·Zbl 0266.90046号 ·doi:10.1287/opre.21.51154
[41] Szegedy,C.、Zaremba,W.、Sutskever,I.、Bruna,J.、Erhan,D.、Goodfellow,I.和Fergus,R.:神经网络的有趣特性。参加:国际学习代表大会(2014年)
[42] TüTüncü,R。;Koenig,M.,《稳健的资产配置》,Ann.Oper。第132157-187号决议(2004年)·兹比尔1090.90125 ·doi:10.1023/B:ANOR.000045281.41041.ed
[43] 谢毅。;Shanbhag,U.,《关于不确定线性互补问题及其变体的稳健解》,SIAM J.Optim。,26, 4, 2120-2159 (2016) ·Zbl 1366.90151号 ·doi:10.1137/15M1010427
[44] Xu,H。;Caramanis,C。;Mannor,S.,稳健回归和套索,Trans。Inf.理论,56,7,3561-3574(2010)·Zbl 1366.62147号 ·doi:10.1109/TIT.2010.2048503
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。