×
克里斯蒂安·坎佐;马蒂奥·拉普奇

几何约束优化问题的非精确罚分解方法。 （英语） Zbl 1522.90079

计算。最佳方案。申请。 85，第3期，937-971（2023）.
摘要：本文对求解几何约束优化问题的罚分解格式进行了理论和数值研究。特别地，我们考虑一些约束部分是非凸且复杂的情况，如基数约束、析取程序或涉及秩约束的矩阵问题。通过变量复制和分解策略，本文提出的方法显式地处理这些困难的约束，从而生成对它们可行的迭代，而其余的（标准的和假设简单的）约束则通过顺序惩罚来处理。事实证明，不精确的优化步骤足以使生成的算法工作，因此即使在目标函数困难的情况下也可以使用。因此，当前的工作是对现有惩罚分解方法论文的重要概括。另一方面，它与一些最近的出版物有关，这些出版物使用增广拉格朗日思想来解决具有几何约束的优化问题。与这些方法相比，分解思想在数值上是优越的，因为它允许在选择子问题求解器时有更多的自由度，并且因为某些（可能昂贵的）投影步骤的数量明显更少。对向量和矩阵空间中几类高度复杂的优化问题的大量数值结果表明，当前的方法确实非常有效地解决了这些问题。

引用于1文件

MSC公司：

90立方厘米22 半定规划
90立方 非线性规划
90立方厘米 互补性和平衡问题以及变分不等式（有限维）（数学规划方面）
49J53型 集值与变分分析
65K10码 数值优化和变分技术

关键词：

惩罚分解;增广拉格朗日函数;莫杜霍维奇平稳性;渐近正则性;渐近平稳性;基数约束;低阶优化;析取程序设计

软件：

古罗比;ElemStatLearn（电子状态学习）;最大AO;L-BFGS公司
PDF格式BibTeX公司 XML格式引用
\textit{C.Kanzow}和\textit{M.Lapucci}，计算。最佳方案。申请。85，编号3，937--971（2023；Zbl 1522.90079）
全文： DOI程序 arXiv公司
OA许可证

参考文献：

[1] 贾，X。；坎佐，C。；梅利茨，P。；Wachsmuth，G.，结构几何约束优化问题的增广拉格朗日方法，Progr。数学。(2022) ·Zbl 1518.90060号 ·doi:10.1007/s10107-022-01870-z
[2] Benko，M。；乔文卡，M。；Hoheisel，T.，约束系统度量子区域唯一性的充分条件及其在析取和正交析取程序中的应用，Set-Val.Variat。分析。，30, 1, 143-177 (2022) ·Zbl 1484.49025号 ·doi:10.1007/s11228-020-00569-7
[3] Benko，M。；Gfrerer，H.，一类带析取约束的数学规划的新可验证平稳性概念，优化，67，1，1-23（2018）·Zbl 1398.90169号 ·doi:10.1080/02331934.2017.17387547
[4] 弗莱格尔，ML；坎佐，C。；Outrata，JV，析取程序的最优性条件及其在平衡约束数学程序中的应用，Set-Val.Anal。，15, 2, 139-162 (2007) ·兹比尔1149.90143 ·doi:10.1007/s11228-006-0033-5
[5] Mehlitz，P.，关于析取规划中的线性独立约束限定，Optimization，69，10，2241-2277（2020）·Zbl 1528.90258号 ·doi:10.1080/02331934.2019.1679811
[6] Ye，J.，互补约束优化问题的最优性条件，SIAM J.Optimiz。，9, 2, 374-387 (1999) ·Zbl 0967.90092号 ·doi:10.1137/S1052623497321882
[7] Achtziger，W。；Kanzow，C.，《约束消失的数学程序：最优性条件和约束条件》，数学。程序。，114, 1, 69-99 (2008) ·Zbl 1151.90046号 ·doi:10.1007/s10107-006-0083-3
[8] Mehlitz，P.，带切换约束的数学程序的平稳性条件和约束条件，数学。程序。，181, 1, 149-186 (2020) ·Zbl 1480.90230号 ·doi:10.1007/s10107-019-01380-5
[9] Lapucci，M.：稀疏约束优化问题的理论和算法。意大利佛罗伦萨大学博士论文（2022年）·Zbl 1509.90185号
[10] 拉普奇，M。；Levato，T。；Sciandone，M.，基数约束问题的收敛不精确惩罚分解方法，J.Optimiz。理论应用。，188, 2, 473-496 (2021) ·Zbl 1470.90094号 ·doi:10.1007/s10957-020-01793-9
[11] Kishore Kumar，N。；Schneider，J.，矩阵低秩逼近的文献综述，线性多重线性。代数，65，11，2212-2244（2017）·Zbl 1387.65039号 ·doi:10.1080/030081087.2016.1267104
[12] Markovsky，I.，《低阶近似：算法、实现、应用》（2012），英国伦敦：施普林格出版社，英国伦敦·兹比尔1245.93005 ·doi:10.1007/978-1-4471-2227-2
[13] 加尔文，G。；拉普奇，M。；Levato，T。；Sciandone，M.，约束非凸优化的交替增广拉格朗日方法，Optimiz。方法。软质。，35, 3, 502-520 (2020) ·Zbl 1441.49030号 ·doi:10.1080/10556788.2019.1576177
[14] 卢，Z。；Zhang，Y.，通过惩罚分解方法的稀疏近似，SIAM J.Optimiz。，23, 4, 2448-2478 (2013) ·Zbl 1295.90056号 ·数字对象标识代码：10.1137/100808071
[15] Zhang，Y.，Lu，Z.：秩最小化的惩罚分解方法。高级神经信息处理。系统。24 (2011)
[16] Guignard，M。；Kim，S.，《拉格朗日分解：产生更强拉格朗恩边界的模型》，数学。程序。，39, 2, 215-228 (1987) ·Zbl 0638.90074号 ·doi:10.1007/BF02592954
[17] 约恩斯滕，KO；Näsberg，M。；Smeds，PA，变量分裂：一些数学规划模型的新拉格朗日松弛方法（1985年），数学系：Linköping大学/Tekniska Högskolan i Linkóping数学系
[18] 格里波，L。；Sciandone，M.，《无约束优化的全局收敛块坐标技术》，Optimiz。方法。软质。，10, 4, 587-637 (1999) ·Zbl 0940.65070号 ·doi:10.1080/10556789908805730
[19] Bonettini，S.，非精确块坐标下降法及其在非负矩阵因式分解中的应用，IMA J.Numer。分析。，31, 4, 1431-1452 (2011) ·Zbl 1235.65061号 ·doi:10.1093/imanum/drq024
[20] Bauschke，H.H.，Combettes，P.L.：希尔伯特空间中的凸分析和单调算子理论，第1版。施普林格，纽约（2011）。doi:10.1007/978-1-4419-9467-7·Zbl 1218.47001号
[21] Mordukhovich，理学学士：变分分析与应用，第1版。查姆施普林格（2018）。数字对象标识代码：10.1007/978-3-319-92775-6·兹比尔1402.49003
[22] Mehlitz，P.：非光滑优化问题的渐近平稳性和正则性。J非光滑分析。Optimiz公司。1 (2020) ·Zbl 1480.90230号
[23] 安德烈亚尼（Andreani，R.）。；海瑟，G。；Martínez，JM，关于光滑约束优化的序列优化条件，《优化》，60，5，627-641（2011）·Zbl 1225.90123号 ·doi:10.1080/02331930903578700
[24] 安德烈亚尼（Andreani，R.）。；JM马丁内斯；拉莫斯，A。；Silva，PJ，A con-continuity constraint qualification and algorithmic consuccessions，SIAM J.Optimiz。，26, 1, 96-110 (2016) ·Zbl 1329.90162号 ·数字对象标识代码：10.1137/15M1008488
[25] 安德烈亚尼（Andreani，R.）。；JM马丁内斯；拉莫斯，A。；Silva，PJ，约束优化的严格约束条件和顺序优化条件，数学。运营商。第43、3、693-717号决议（2018年）·Zbl 1516.90091号 ·doi:10.1287/门.2017.0879
[26] Rockafellar，R.T.，Wets，R.J.-B.：变分分析，第1版。斯普林格，海德堡（2009）doi:10.1007/978-3-642-02431-3
[27] Börgens，E。；坎佐，C。；Steck，D.，Banach空间中约束优化乘数方法的局部和全局分析，SIAM J.Contr。乐观。，57, 6, 3694-3722 (2019) ·Zbl 1431.90176号 ·doi:10.137/19M1240186
[28] 坎佐，C。；Steck，D.，一个比较标准和受保护的增广拉格朗日方法的例子，操作。Res.Lett.公司。，45, 6, 598-603 (2017) ·Zbl 1409.90186号 ·doi:10.1016/j.org.2017.09.05
[29] Bertsekas，D.，《非线性规划》（2016），贝尔蒙特：雅典娜科学出版社，贝尔蒙特·Zbl 1360.90236号
[30] 贝克，A。；Eldar，YC，《稀疏约束非线性优化：优化条件和算法》，SIAM J.Optimiz。，23, 3, 1480-1509 (2013) ·Zbl 1295.90051号 ·数字对象标识代码：10.1137/120869778
[31] 拉梅尔，S。；Shikhman，V.，关于稀疏约束非线性优化的非退化M-平稳点，J.Global Optimiz。，82, 2, 219-242 (2022) ·Zbl 1486.90191号 ·doi:10.1007/s10898-021-01070-7
[32] Ben-Tal，A.，Nemirovski，A.：现代凸优化讲座：分析、算法和工程应用，第1版。SIAM，费城（2001）·Zbl 0986.90032号
[33] Burer，S。；蒙泰罗，RD；Zhang，Y.，基于连续优化的最大稳定集公式和启发式，数学。程序。，94, 1, 137-166 (2002) ·Zbl 1023.90071号 ·doi:10.1007/s10107-002-0356-4
[34] 坎迪斯，EJ；Recht，B.，通过凸优化实现精确矩阵补全，Foundat。公司。数学。，9, 6, 717-772 (2009) ·Zbl 1219.90124号 ·doi:10.1007/s10208-009-9045-5
[35] Recht，B。；法泽尔，M。；Parrilo，PA，通过核范数最小化保证线性矩阵方程的最小秩解，SIAM Review，52，3，471-501（2010）·Zbl 1198.90321号 ·数字对象标识代码：10.1137/070697835
[36] Hosseini，S.，Luke，D.R.，Uschmajew，A.：低秩矩阵的正切锥和正规锥。在：非光滑优化及其应用，第45-53页。Springer，Birkhäuser，Cham（2019年）·兹比尔1417.15050
[37] 伯达科夫，OP；坎佐，C。；Schwartz，A.，具有基数约束的数学程序：通过互补型条件和正则化方法的重新表述，SIAM J.Optimiz。，26, 1, 397-425 (2016) ·Zbl 1332.90220号 ·数字对象标识代码：10.1137/140978077
[38] 刘，DC；Nocedal，J.，《关于大规模优化的有限内存BFGS方法》，数学。程序。，45, 1, 503-528 (1989) ·Zbl 0696.90048号 ·doi:10.1007/BF01589116
[39] Bertsimas，D。；Cory-Wright，R.，稀疏投资组合选择的可扩展算法，Informs J.Compute。，34, 3, 1489-1511 (2022) ·Zbl 07552219号 ·doi:10.1287/ijoc.2021.1127
[40] 古罗比优化有限责任公司：古罗比优化器参考手册（2022）。https://www.gurobi.com网站
[41] Dolan，ED；Moré，JJ，带性能配置文件的基准优化软件，数学。程序。，91, 2, 201-213 (2002) ·邮编：1049.90004 ·doi:10.1007/s101070100263
[42] 科奇，G。；Levato，T。；刘齐，G。；Sciandone，M.，稀疏多目标规划的基于凹优化的方法，Optimiz。莱特。，14, 3, 535-556 (2020) ·Zbl 1457.90142号 ·doi:10.1007/s11590-019-01506-w
[43] Zhang，Y。；Yang，Q.，《多任务学习调查》，IEEE Trans。知识。数据工程，34，12，5586-5609（2021）·doi:10.1109/TKDE.2021.3070203
[44] 哈斯蒂，T。；Tibshirani，R。；Friedman，J.，《统计学习的要素：数据挖掘、推理和预测》（2009），纽约：施普林格，纽约·Zbl 1273.62005年 ·doi:10.1007/978-0-387-84858-7
[45] 薛，Y。；廖，X。；Carin，L。；Krishnapuram，B.，《Dirichlet过程先验分类的多任务学习》，J.Mach。学习。研究，8，1，35-63（2007年）·Zbl 1222.68338号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。