×
陈云梅;蓝，广汇;欧阳、豫园

一类变分不等式的加速格式。 （英语） Zbl 1386.90102号

数学。程序。 165，第1（B）号，113-149（2017）.
摘要：我们提出了一种新的随机方法，即随机加速镜像代理（SAMP）方法，用于求解一类单调随机变分不等式（SVI）。所提出的算法的主要思想是将多步加速方案纳入随机镜像代理方法中。所开发的SAMP方法计算SVI具有最佳迭代复杂度的弱解。特别是，如果SVI中的算子由平滑函数的随机梯度组成，则SAMP方法的迭代复杂性可以根据其对平滑函数的Lipschitz常数的依赖性而加快。对于可行集有界的SVI，SAMP方法的迭代复杂度的界取决于可行集的直径。对于无界SVI，我们采用Monteiro和Svaiter引入的修正间隙函数来求解单调包含，并证明了SAMP方法的迭代复杂度取决于初始点到强解集的距离。值得注意的是，我们的研究还显著改进了求解确定性变分不等式问题的一些现有复杂性结果。通过初步的数值实验，我们证明了SAMP方法相对于一些现有算法的优势。

引用于36文件

MSC公司：

90C25型 凸面编程
90立方厘米 随机规划
62L20型 随机近似
65年第68季度 算法和问题复杂性分析

关键词：

随机变分不等式;随机规划;镜面反射法;外梯度法

软件：

莫塞克;伊波特;NESUN公司;ElemStatLearn（电子状态学习）
PDF格式BibTeX公司 XML格式引用
\textit{Y.Chen}等人，数学。程序。165，编号1（B），113--149（2017；Zbl 1386.90102）
全文： 内政部 arXiv公司

参考文献：

[1] Auslender，A.，Teboulle，M.：单调变分不等式的类内投影方法。数学。程序。104, 39-68 (2005) ·Zbl 1159.90517号 ·doi:10.1007/s10107-004-0568-x
[2] Auslender，A.，Teboulle，M.：凸优化和圆锥优化的内部梯度和近似方法。SIAM J.Optim公司。16, 697-725 (2006) ·Zbl 1113.90118号 ·doi:10.1137/S1052623403427823
[3] Ben-Tal，A.，Nemirovski，A.：用于大规模凸优化的非核素限制内存级方法。数学。程序。102, 407-456 (2005) ·Zbl 1066.90079号 ·doi:10.1007/s10107-004-0553-4
[4] Bennett，K.P.，Mangasarian，O.L.：两个线性不可分集的稳健线性规划判别。最佳方案。方法软件。1, 23-34 (1992) ·doi:10.1080/10556789208805504
[5] Boyd，S.，Vandenberghe，L.：凸优化。剑桥大学出版社，剑桥（2004）·Zbl 1058.90049号 ·doi:10.1017/CBO9780511804441
[6] Bregman，L.M.：寻找凸集公共点的松弛方法及其在凸规划问题求解中的应用。苏联计算机。数学。数学。物理学。7200年至217年（1967年）·兹比尔0186.23807 ·doi:10.1016/0041-5553（67）90040-7
[7] Burachik，R.S.，Iusem，A.N.，Svaiter，B.F.：单调算子的扩大及其在变分不等式中的应用。设定值分析。5, 159-180 (1997) ·Zbl 0882.90105号 ·doi:10.1023/A:1008615624787
[8] Chen，X.，Wets，R.J.-B.，Zhang，Y.：随机变分不等式：残差最小化平滑样本平均近似。SIAM J.Optim公司。22, 649-673 (2012) ·兹比尔1263.90098 ·数字对象标识代码：10.1137/10825248
[9] Chen，X.，Ye，Y.：关于箱约束变分不等式的同伦光滑方法。SIAM J.控制优化。37, 589-616 (1999) ·Zbl 0973.65051号 ·doi:10.1137/S0363012997315907
[10] Chen，Y.，Lan，G.，Ouyang，Y.：一类鞍点问题的最优原对偶方法。SIAM J.Optim公司。24, 1779-1814 (2014) ·Zbl 1329.90090号 ·doi:10.1137/130919362
[11] Dang，C.D.，Lan，G.：关于广义单调算子变分不等式的非欧几里德外梯度方法的收敛性。计算。最佳方案。申请。60, 277-310 (2015) ·Zbl 1311.49020号 ·doi:10.1007/s10589-014-9673-9
[12] Facchinei，F.，Pang，J.-S.：有限维变分不等式和互补问题，第1卷。柏林施普林格出版社（2003）·Zbl 1062.90002号
[13] Fang，S.C.，Peterson，E.：广义变分不等式。J.优化。理论应用。38, 363-383 (1982) ·Zbl 0471.49007号 ·doi:10.1007/BF00935344
[14] Ghadimi，S.，Lan，G.：强凸随机组合优化的最优随机近似算法：通用算法框架。SIAM J.Optim。22, 1469-1492 (2012) ·Zbl 1301.62077号 ·数字对象标识代码：10.1137/10848864
[15] Ghadimi，S.，Lan，G.：非凸非线性随机规划的加速梯度法。数学。程序。156, 59-99 (2015) ·Zbl 1335.62121号 ·doi:10.1007/s10107-015-0871-8
[16] Hartman，P.，Stampacchia，G.：关于一些非线性椭圆微分函数方程。数学学报。115271-310（1966年）·兹比尔0142.38102 ·doi:10.1007/BF02392210
[17] Hastie，T.、Tibshirani，R.、Friedman，J.：《统计学习的要素：数据挖掘、推断和预测》，第2版。柏林施普林格出版社（2009）·Zbl 1273.62005年 ·doi:10.1007/978-0-387-84858-7
[18] Jacob，L.，Obozinski，G.，Vert，J.-P.：重叠套索和图形套索的群套索。摘自：《第26届机器学习国际年会论文集》，ACM，第433-440页。(2009) ·Zbl 1134.90542号
[19] Jiang，H.，Xu，H.：随机变分不等式问题的随机逼近方法。IEEE传输。自动。控制53，1462-1475（2008）·兹比尔1367.90072 ·doi:10.1109/TAC.2008.925853
[20] Juditsky，A.，Nemirovski，A.，Tauvel，C.：用随机镜像-插值算法求解变分不等式。斯托克。系统。1, 17-58 (2011) ·Zbl 1291.49006号 ·doi:10.1287/10-SSY011
[21] Kien，B.，Yao，J.-C.，Yen，N.D.：伪单调变分不等式解的存在性。J.全球。最佳方案。41, 135-145 (2008) ·Zbl 1149.49011号 ·doi:10.1007/s10898-007-9251-0
[22] Korpelevich，G.：寻找鞍点和其他问题的外梯度法。Matecon 12，747-756（1976）·Zbl 0342.90044号
[23] Koshal，J.，Nedic，A.，Shanbhag，U.V.：随机变分不等式问题的正则化迭代随机近似方法。IEEE传输。自动。控制58594-609（2013）·Zbl 1369.49012号 ·doi:10.1109/TAC.2012.2215413
[24] Lan，G.：随机组合优化的一种优化方法。数学。程序。133(1), 365-397 (2012) ·Zbl 1273.90136号 ·doi:10.1007/s10107-010-0434-y
[25] Lan，G.，Nemirovski，A.，Shapiro，A.：镜像下降随机近似方法的验证分析。数学。程序。134, 425-458 (2012) ·Zbl 1273.90154号 ·doi:10.1007/s10107-011-0442-6
[26] Lin，G.-H.，Fukushima，M.：随机均衡问题和具有均衡约束的随机数学程序：一项调查。派克靴。J.优化。6, 455-482 (2010) ·Zbl 1200.65052号
[27] Minty，G.J.等人：希尔伯特空间中的单调（非线性）算子。杜克大学数学。J.29341-346（1962年）·Zbl 0111.31202号 ·doi:10.1215/S0012-7094-62-02933-2
[28] Monteiro，R.D.，Svaiter，B.F.：关于迭代和遍历平均值的混合近端外梯度方法的复杂性。SIAM J.Optim公司。20, 2755-2787 (2010) ·Zbl 1230.90200 ·doi:10.1137/090753127
[29] Monteiro，R.D.，Svaiter，B.F.：Tseng的修正F-B分裂和Korpelevich的半变分不等式方法变体的复杂性及其在鞍点和凸优化问题中的应用。SIAM J.Optim公司。21, 1688-1720 (2011) ·兹比尔1245.90155 ·数字对象标识代码：10.1137/100801652
[30] MOSEK ApS，Matlab手册的MOSEK优化工具箱，6.0版（135版）。MOSEK ApS，丹麦（2012年）·Zbl 1066.90079号
[31] Nemirovski，A.：线性算子方程基于信息的复杂性。J.复杂。8, 153-175 (1992) ·Zbl 0758.65044号 ·doi:10.1016/0885-064X（92）90013-2
[32] Nemirovski，A.：带Lipschitz连续单调算子的变分不等式和光滑凹凸鞍点问题的具有收敛速度的Prox方法。SIAM J.Optim公司。15, 229-251 (2004) ·Zbl 1106.90059号 ·doi:10.1137/S1052623403425629
[33] Nemirovski，A.，Juditsky，A.，Lan，G.，Shapiro，A.：随机规划的稳健随机近似方法。SIAM J.Optim公司。19, 1574-1609 (2009) ·Zbl 1189.90109号 ·doi:10.1137/070704277
[34] Nemirovski，A.，Yudin，D.：优化中的问题复杂性和方法效率。离散数学中的威利交叉科学系列。威利，纽约（1983）·Zbl 0501.90062号
[35] Nesterov，Y.：对偶外推及其在求解变分不等式和相关问题中的应用。数学。程序。109, 319-344 (2007) ·Zbl 1167.90014号 ·doi:10.1007/s10107-006-0034-z
[36] Nesterov，Y.：凸优化问题的通用梯度方法。数学。程序。152, 381-404 (2015) ·兹伯利1327.90216 ·doi:10.1007/s10107-014-0790-0
[37] Nesterov，Y.，Vial，J.P.：凸问题和变分不等式的齐次分析中心割平面方法。SIAM J.Optim公司。9, 707-728 (1999) ·Zbl 0971.65060号 ·doi:10.1137/S1052623497324813
[38] Nesterov，Y.E.：收敛速度为[O（1/k^2）O]（1/k2）的无约束凸极小化问题的一种方法。Doklady SSSR 269、543-547（1983）。翻译为苏联数学。Docl公司
[39] Nesterov，Y.E.：非光滑函数的光滑最小化。数学。程序。103, 127-152 (2005) ·Zbl 1079.90102号 ·doi:10.1007/s10107-004-0552-5
[40] Rockafellar，R.T.：单调算子和近点算法。SIAM J.控制优化。14, 877-898 (1976) ·兹比尔0358.90053 ·数字对象标识代码：10.1137/0314056
[41] Shapiro，A.：蒙特卡罗抽样方法。摘自：Shapiro，A.，Ruszczyñski，A.（编辑）《运筹学与管理科学手册》，第10卷，第353-425页。(2003) ·Zbl 1145.90047号
[42] Shapiro，A.，Xu，H.：具有平衡约束、建模和样本平均近似的随机数学程序。优化57，395-418（2008）·Zbl 1145.90047号 ·doi:10.1080/02331930801954177
[43] Solodov，M.V.，Svaiter，B.F.：一种混合投影-近点算法。J.凸面分析。6, 59-70 (1999) ·Zbl 0961.90128号
[44] Solodov，M.V.，Svaiter，B.F.：一种不精确的混合广义近点算法和关于Bregman函数理论的一些新结果。数学。操作。第25号决议，214-230（2000）·Zbl 0980.90097号 ·doi:10.1287/门25.2.214.12222
[45] Tibshirani，R.：通过套索进行回归收缩和选择。J.R.Stat.Soc.系列B（方法学），267-288（1996）·Zbl 0850.62538号
[46] Tseng，P.：关于凹凸优化的加速近似梯度法。手稿（2008）·Zbl 1079.90102号
[47] Wächter，A.，Biegler，L.T.：关于大规模非线性规划的点内滤波器线性搜索算法的实现。数学。程序。106, 25-57 (2006) ·Zbl 1134.90542号 ·doi:10.1007/s10107-004-0559-y
[48] Wang，M.，Lin，G.，Gao，Y.，Ali，M.M.：一类随机变分不等式问题的样本平均近似方法。J.系统。科学。复杂。24, 1143-1153 (2011) ·Zbl 1338.93406号 ·doi:10.1007/s11424-011-0948-2
[49] Xing，E.P.，Ng，A.Y.，Jordan，M.I.，Russell，S.：距离度量学习及其在附带信息聚类中的应用。高级神经信息处理。系统。15, 505-512 (2003)
[50] Xu，H.，Zhang，D.：随机纳什均衡问题：样本平均近似和应用。计算。最佳方案。申请。55, 597-645 (2013) ·Zbl 1281.91046号 ·doi:10.1007/s10589-013-9538-7
[51] Yousefian，F.，Nedić，A.，Shanbhag，U.V.：随机变分不等式问题的正则化平滑随机逼近（rssa）算法。在：《2013年冬季模拟会议论文集：模拟：在复杂世界中做出决策》，IEEE出版社，第933-944页。(2013)
[52] Zou，H.，Hastie，T.：通过弹性网进行正则化和变量选择。J.R.统计社会服务。B（Stat.Methodol.）67，301-320（2005）·Zbl 1069.62054号 ·数字对象标识代码：10.1111/j.1467-9868.2005.0050.x
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。