×

求解随机变分不等式的小批量前向-后向方法。 (英语) Zbl 1489.90195号

摘要:我们开发了一种新的求解伪单调随机变分不等式的随机算法。我们的方法建立在Tseng的前向-后向-前向算法的基础上,在确定性文献中,当求解由伪单调Lipschitz连续算子控制的凸闭集上的变分不等式时,该算法是Korpelevich的外梯度方法的一个有价值的替代方法。Tseng算法的主要计算优势在于,它只依赖于随机预言机的单个投影步骤和两个独立查询。我们的算法采用了小批量采样机制,几乎可以保证收敛到最优解。据我们所知,这是第一个通过在每次迭代中仅使用单个投影来实现这一点的随机look-ahead算法。

MSC公司:

90立方厘米 互补、平衡问题和变分不等式(有限维)(数学规划方面)
90立方厘米 随机规划
49J40型 变分不等式
2015年1月60日 强极限定理
62L20型 随机近似
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] AttchadéYF,Fort G,Moulines E(2017),关于扰动近端梯度算法。J.机器学习。物件。18(1):310-342谷歌学者·Zbl 1433.90199号
[2] Bottou L,Curtis FE,Nocedal J(2018)《大规模机器学习的优化方法》。SIAM版本。60(2):223-311.谷歌学者·Zbl 1397.65085号
[3] Boyd S、Parikh N、Chu E、Peleato B、Eckstein J(2011)《通过交替方向乘数法进行分布式优化和统计学习》。基础趋势机器学习3(1):1-122.谷歌学者·Zbl 1229.90122号
[4] Boyd SP,Vandenberghe L(2004)凸优化(英国剑桥大学出版社)。谷歌学者·Zbl 1058.90049号
[5] Chen C,Chen Y,Ouyang Y,Pasiliao E(2018)重要抽样乘数的随机加速交替方向法。J.优化。理论应用179(2):676-695.谷歌学者·Zbl 1402.90087号
[6] Combettes P,Pesquet J(2015)随机准Fejér块坐标不动点迭代与随机扫描。SIAM J.Optim公司。25(2):1221-1248.谷歌学者·Zbl 1317.65135号
[7] Cottle RW,Yao JC(1992)希尔伯特空间中的伪单调互补问题。J.优化。理论应用75(2):281-295谷歌学者·Zbl 0795.90071号
[8] Cui S,Goldsmith AJ,Bahai A(2004)MIMO的能效和传感器网络中的合作MIMO技术。IEEE J.选定区域通信。22(6):1089-1098.谷歌学者
[9] Dang CD,Lan G(2015)关于广义单调算子变分不等式的非欧几里德外梯度方法的收敛性。计算。最佳方案。应用程序60(2):277-310.谷歌学者·Zbl 1311.49020号
[10] Duflo M(1996)算法随机性(纽约州施普林格)。谷歌学者·Zbl 0882.60001号
[11] Duvocelle B、Mertikopoulos P、Staudigl M、Vermeulen D(2018)《时变博弈中的学习》。1918年9月10日提交的预印本,https://arxiv.org/abs/1809.03066谷歌学者
[12] Facchinei F,Pang JS(2003)有限维变分不等式与互补性问题,运筹学中的Springer级数,第卷。1和2(Springer,纽约)。谷歌学者·Zbl 1062.90001号
[13] Feng D、Jiang C、Lim G、Cimini LJ Jr、Feng G、Li GY(2013)《节能无线通信调查》。IEEE通信调查和教程15(1):167-178.谷歌学者
[14] Hata M(1980)陆地移动无线电服务中传播损失的经验公式。IEEE传输。车辆技术。29(3):317-325.谷歌学者
[15] Isheden C、Chong Z、Jorswieck E、Fettweis G(2012)《基于知情发射机的链路级能效优化框架》。IEEE传输。无线通信。11(8):2946-2957.谷歌学者
[16] Iusem A,JofréA,Oliveira RI,Thompson P(2017)随机变分不等式方差缩减的外梯度法。SIAM J.Optim公司。27(2):686-724.谷歌学者·Zbl 1365.65179号
[17] Jiang H,Xu H(2008)随机变分不等式问题的随机逼近方法。IEEE传输。自动控制53(6):1462-1475.谷歌学者·兹比尔1367.90072
[18] JofréA,Thompson P(2019)关于乘性噪声随机光滑凸优化的方差减少。数学编程174:253-292谷歌学者·Zbl 1411.65082号
[19] Juditsky A、Nemirovski AS、Tauvel C(2011),用随机镜像算法求解变分不等式。随机系统1(1):17-58.Link,谷歌学者·Zbl 1291.49006号
[20] Kannan A,Shanbhag U(2012)通过迭代正则化技术对单调nash博弈中的均衡进行分布式计算。SIAM J.Optim公司。22(4):1177-1205.谷歌学者·Zbl 1281.90072号
[21] Kannan A,Shanbhag UV(2019)伪单调随机变分不等式问题及其变体的最优随机外梯度格式。计算。最佳方案。应用程序74(3):779-820.谷歌学者·Zbl 1439.90069号
[22] King AJ,Rockafellar RT(1993)统计估计和随机规划中解的渐近理论。数学。操作。物件。18(1):148-162.链接,谷歌学者·Zbl 0798.90115号
[23] Korpelevich GM(1976)寻找鞍点和其他问题的外梯度法。科诺姆。i材料。Metody公司12:747-756.谷歌学者·Zbl 0342.90044号
[24] Kushner HJ,Yin GG(1997)随机逼近算法及其应用(纽约州施普林格)。谷歌学者·Zbl 0914.60006号
[25] Mertikopoulos P,Belmega EV(2016)《学习绿色:动态MIMO-OFDM系统中稳健的能效最大化》。IEEE J.选定区域通信。34(4):743-757.谷歌学者
[26] Mertikopoulos P,Staudigl M(2018)随机镜像下降动力学及其在单调变分不等式中的收敛性。J.优化。理论应用179(3):838-867.谷歌学者·兹比尔1402.90122
[27] Mertikopoulos P,Zhou Z(2018)在具有连续动作集和未知回报函数的游戏中学习。数学规划173:465-507.谷歌学者·Zbl 1420.91027号
[28] Polyak BT(1987)优化简介(优化软件,纽约)。谷歌学者
[29] Ravat U,Shanbhag U(2011)关于光滑和非光滑凸随机nash对策解集的特征。SIAM J.Optim公司。21(3):1168-1199.谷歌学者·Zbl 1235.90109号
[30] Rosasco L,Villa S,VũBC(2016),单调包含的随机正向反向分裂。J.优化。理论应用169(2):388-406.谷歌学者·Zbl 06586792号
[31] Scutari G、Palomar DP、Facchinei F、Pang JS(2010)凸优化、博弈论和变分不等式理论。IEEE信号处理杂志27(3):35-49谷歌学者
[32] Shapiro A、Dentcheva D、Ruszczynski AX(2009年)随机规划讲座:建模与理论(费城SIAM)。谷歌学者·邮编:1183.90005
[33] Shen K,Yu W(2018)通信系统分数编程:I.功率控制和波束形成。IEEE传输。信号处理66(10):2616-2630.谷歌学者·Zbl 1414.90337号
[34] Solodov M,Svaiter B(1999)变分不等式问题的一种新投影方法。SIAM J.控制优化。37(3):765-776.谷歌学者·Zbl 0959.49007号
[35] Stroock DW(2011)概率论:分析的观点第二版(英国剑桥大学出版社)。谷歌学者·Zbl 1223.60001号
[36] Telatar IE(1999)多天线高斯信道容量。欧洲事务处理。电信。相关技术.10(6):585-596.谷歌学者
[37] Tseng P(2000)极大单调映射的一种改进的前向-后向分裂方法。SIAM J.控制优化。38(2):431-446谷歌学者·Zbl 0997.90062号
[38] Von Stengel B(2002)计算两人博弈的均衡。经济应用博弈论手册,第3卷(阿姆斯特丹爱思唯尔),1723-1759.谷歌学者
[39] Yousefian F,NedićA,Shanbhag UV(2017)关于随机变分不等式问题的随机近似方法中的平滑、正则化和平均化。数学。编程165(1):391-431.谷歌学者·Zbl 1457.90102号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。