×
赫萨姆·艾哈迈迪;乌代五世香巴格。

关于错位凸优化和单调变分不等式问题的求解。 （英语） Zbl 1447.90028号

计算。最佳方案。申请。 77，第1号，125-161（2020）.
摘要：我们考虑一个指定错误的优化问题，要求在闭凸集（X）上最小化函数（f（\cdot；\theta^*），其中（theta^*\）是可通过并行学习过程学习的未知参数向量。在这里，我们开发了耦合的方案，它将迭代（（x_k，theta_k）生成为（k\rightarrow\infty），然后生成（x_k\rirtarrowx^*\），这是（x\）和（theta_k\rightarrow \theta^*\。在本文的第一部分中，我们考虑了（f）是光滑或非光滑的问题的解。在光滑强凸区域中，我们证明了这样的格式仍然显示出线性收敛速度，尽管常数较大。当强凸性假设被削弱时，可以证明函数值的收敛性看到\（mathcal{O}（1/K）\）的正则收敛速度被与\（垂直\θ_0-\θ^*\垂直\）成比例的加法因子所修正，其中\（垂直\theta _0-\ theta ^*\ Vert）代表\（垂直^*\）中的初始指定错误。此外，当假设学习问题只是凸的，但允许适当的弱尖锐性时，收敛速度退化为（mathcal{O}（1/\sqrt{K}））。在凸和强凸区域中，也提供了步长递减方案，并且对问题参数的知识依赖性较小。最后，我们提出了一个基于平均值的次梯度格式，它显示的速率为（{mathcal{O}}（1/\sqrt{K}）+mathcal}O}（\|\theta_0-\theta^*\|（1/K）），这意味着对（mathcal{O}）的正则速率没有影响。在本文的第二部分中，我们考虑了错位单调变分不等式问题的解，其动机是需要处理更一般的平衡问题以及约束条件中错位的可能性。在这种情况下，我们首先提出了一个常步长错误指定的外梯度格式，并证明了它的渐近收敛性。该方案依赖于问题参数（如Lipschitz常数），并导致迭代Tikhonov正则化的一个错误变体，这是一种不需要了解此类常数的方法。

MSC公司：

90C25型 凸面编程
90立方厘米 互补、平衡问题和变分不等式（有限维）（数学规划方面）
90C60型 数学规划问题的抽象计算复杂性

关键词：

错误说明;凸优化;变分不等式问题

软件：

ElemStatLearn（电子状态学习）
PDF格式BibTeX公司 XML格式引用
\textit{H.Ahmadi}和\textit{U.V.Shanbhag}，计算。最佳方案。申请。77，No.1，125--161（2020；Zbl 1447.90028）
全文： 内政部 arXiv公司

参考文献：

[1] Bertsekas，D.，《非线性规划》（1999），贝尔蒙特：雅典娜科学出版社，贝尔蒙特·Zbl 1015.90077号
[2] Dantzig，GB，《不确定性下的线性规划》，Manag。科学。，1, 197-206 (1955) ·Zbl 0995.90589号 ·doi:10.1287/mnsc.1.3-4.197
[3] 夏皮罗，A。；Dentcheva博士。；Ruszczyński，A.，随机规划讲座。MPS/SIAM优化系列（2009），费城：SIAM，费城·邮编：1183.90005
[4] Ben-Tal，A。；El Ghaoui，L。；Nemirovski，A.，稳健优化。普林斯顿应用数学丛书（2009），普林斯顿：普林斯顿大学出版社，普林斯顿·Zbl 1221.90001号
[5] Bertsimas，D。；布朗，DB；Caramanis，C.，鲁棒优化的理论和应用，SIAM Rev.，53，3464-501（2011）·Zbl 1233.90259号 ·doi:10.1137/080734510
[6] 哈斯蒂，T。；Tibshirani，R。；JH Friedman，《统计学习的要素：数据挖掘、推断和预测：200幅全彩插图》（2001），纽约：Springer，纽约·Zbl 0973.62007号
[7] 法奇尼，F。；庞，J-S，有限维变分不等式与互补问题。Springer运筹学系列（2003），纽约：Springer，纽约·Zbl 1062.90002号
[8] Gittins，JC，多武器匪徒分配指数。《系统和优化中的威利-国际科学丛书》（1989），奇切斯特：威利·Zbl 0699.90068号
[9] 姜浩。；Shanbhag，UV，关于不完全信息条件下随机优化和变分问题的解，SIAM J.Optim。，26, 4, 2394-2429 (2016) ·Zbl 1356.90097号 ·数字对象标识代码：10.1137/140955495
[10] 姜浩。；Shanbhag，紫外线；Meyn，SP，错误指定凸随机纳什博弈均衡的分布式计算，IEEE Trans。自动。控制，63，2，360-371（2018）·兹比尔1390.91021 ·doi:10.1109/TAC.2017.2742061
[11] Ahmadi，H.，Shanbhag，U.V.：用于错误指定的凸优化问题的数据驱动一阶方法：全局收敛和速率估计。摘自：第53届IEEE决策与控制会议，CDC 2014，美国加利福尼亚州洛杉矶，第4228-4233页。IEEE（2014）
[12] Ahmadi，H.，Aybat，N.S.，Shanbhag，U.V.：关于具有错误指定约束的凸优化问题的不精确增广拉格朗日格式的速率分析。摘自：2016年美国控制会议（ACC），第4841-4846页（2016）
[13] 卡拉菲尔，GC；不确定凸规划：随机解和置信水平，数学。程序。，102, 25-46 (2005) ·Zbl 1177.90317号 ·doi:10.1007/s10107-003-0499-y
[14] 明尼苏达州Katehakis；Veinott，AF，《多武器强盗问题：分解和计算》，数学。操作。研究，12，2，262-268（1987）·Zbl 0618.90097号 ·doi:10.1287/门12.2.262
[15] 阿格拉瓦尔，S。；王，Z。；Ye，Y.，在线线性规划的动态近最优算法，Oper。研究，62，4，876-890（2014）·兹比尔1302.90119 ·doi:10.1287/opre.2014.1289
[16] 王，Z。；邓，S。；Ye，Y.，《缩小差距：针对单一产品收入管理问题的学习-亲身实践算法》，Oper。决议，62，2，318-331（2014）·Zbl 1302.91100号 ·doi:10.1287/opre.2013.1245
[17] Bertsekas，D。；Tsitsiklis，JN，有误差梯度方法中的梯度收敛，SIAM J.Optim。，10，3627-642（1999年）·Zbl 1049.90130号 ·doi:10.1137/S1052623497331063
[18] Olivier，D。；弗朗索瓦，G。；Nesterov，YE，带不精确预言的光滑凸优化的一阶方法，数学。程序。序列号。A、 146、37-75（2013）·Zbl 1317.90196号
[19] Schmidt，M.，Roux，N.L，Bach，F.R.：凸优化的不精确近似粒度方法的收敛速度。《神经信息处理系统进展》，第24卷，第1458-1466页（2011年）
[20] Polyak，BT，《优化导论》（1987），纽约：Optimization Software Inc.，纽约·Zbl 0625.62093号
[21] Robbins，H.，Siegmund，D.：非负几乎上鞅的收敛定理及其应用。摘自：《统计学中的优化方法》（俄亥俄州立大学研讨会论文集，俄亥俄州哥伦布，1971年）。纽约学术出版社，第233-257页（1971）·Zbl 0286.60025号
[22] 伯克，合资公司；Ferris，MC，数学规划中的弱尖锐极小值，SIAM J.控制优化。，1340-1359年5月31日（1993年）·Zbl 0791.90040号 ·数字对象标识代码：10.1137/0331063
[23] GM Korpelevich，《寻找鞍点和其他问题的外梯度法》，Ekonomika i Matematischeskie Metody，12747-756（1976）·Zbl 0342.90044号
[24] Nemirovski，A.，Lipschitz连续单调算子变分不等式和光滑凹凸鞍点问题的收敛速度为O（1/T）的Prox方法，SIAM J.Optim。，15, 1, 229-251 (2005) ·Zbl 1106.90059号 ·doi:10.1137/S1052623403425629
[25] Tikhonov，A.N.：关于错误放置问题的解决和调整方法。在：概述偏微分方程联合研讨会（新西伯利亚，1963）。俄罗斯科学院苏联西伯利亚分院，莫斯科，第261-265页（1963年）
[26] Golshtein，EG；Tretyakov，NV，《优化中的修正拉格朗日和单调映射》。Wiley-Interscience离散数学与优化系列（1996），纽约：Wiley，纽约·Zbl 0848.49001号
[27] Kannan，A。；Shanbhag，UV，通过迭代正则化技术对单调纳什博弈中均衡的分布式计算，SIAM J.Optim。，22, 4, 1177-1205 (2012) ·Zbl 1281.90072号 ·doi:10.1137/110825352
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。