×

Bregman原对偶一阶方法及其在稀疏半定规划中的应用。 (英语) Zbl 1484.90065号

摘要:我们提出了一种新的具有Bregman距离的Chambolle-Pock原对偶算法,分析了其收敛性,并将其应用于稀疏半定规划中的中心问题。该方法的新颖之处在于采用了一种线搜索程序来选择合适的步长。线性搜索无需估计约束矩阵的范数和Bregman核的强凸性常数。作为应用,我们讨论了具有稀疏系数矩阵的大规模半定规划的中心问题。使用半正定可完备稀疏矩阵锥的对数势垒函数作为距离生成核。对于这个距离,评估Bregman近端算子的复杂性与稀疏Cholesky因子分解的成本大致成正比。这比使用欧几里德距离的标准近端算子要便宜得多,后者需要特征值分解。

MSC公司:

90C22型 半定规划
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 阿梅斯托,P。;Davis,T。;达夫,I.,《近似最小度排序》,SIAM J.矩阵分析。申请。,17, 4, 886-905 (1996) ·Zbl 0861.65021号 ·doi:10.1137/S0895479894278952
[2] Andersen,M.、Dahl,J.、Vandenberghe,L.:CVXOPT:用于凸优化的Python包,1.2.4版。www.cvxopt.org(2020)
[3] 安徒生,理学硕士;Dahl,J。;Vandenberghe,L.,稀疏矩阵锥的对数势垒,Optim。方法软件。,28, 3, 396-423 (2013) ·Zbl 1266.65045号 ·doi:10.1080/10556788.2012.684353
[4] Andersen,M.S.,Vandenberghe,L.:CHOMPACK:用于弦矩阵计算的Python包,2.2.1版(2015)。cvxopt.github.io/chompack公司
[5] Applegate,D.,Dóaz,M.,Hinder,O.,Lu,H.,Lubin,M..,O'Donoghue,B.,Schudy,W.:使用原对偶混合梯度的实用大规模线性规划。arXiv(2021年)
[6] 澳大利亚银行。;Teboulle,M.,凸优化和圆锥优化的内部梯度和近似方法,SIAM J.Optim。,16, 3, 697-725 (2006) ·Zbl 1113.90118号 ·doi:10.1137/S10526223403427823
[7] 贝克,A。;Teboulle,M.,线性反问题的快速迭代收缩阈值算法,SIAM J.Imag。科学。,2, 1, 183-202 (2009) ·Zbl 1175.94009号 ·doi:10.1137/080716542
[8] Beck,A.,Teboulle,M.:基于梯度的算法及其在信号恢复中的应用。In:Y.Eldar,D.Palomar(编辑),《信号处理和通信中的凸优化》。剑桥大学出版社(2009)·Zbl 1211.90290号
[9] 南卡罗来纳州贝拉维亚。;J.Gondzio。;Morini,B.,稀疏对称正定系统和最小二乘问题的无矩阵预条件,SIAM J.Sci。计算。,35,1,A192-A211(2013)·Zbl 1264.65036号 ·doi:10.1137/10840819
[10] 贝拉维亚,S。;J.Gondzio。;Porcelli,M.,求解稀疏半定程序的不精确对偶对数障碍法,数学。程序。,178, 1-2, 109-143 (2019) ·Zbl 1431.90108号 ·doi:10.1007/s10107-018-1281-5
[11] Bellavia,S.,Gondzio,J.,Porcelli,M.:低秩半定规划问题的放松内点方法及其在矩阵完备化中的应用。arXiv(2019)·Zbl 1479.90152号
[12] SJ本森;Ye,Y.,算法875:DSDP5-半定规划软件,ACM-Trans。数学。柔和。(TOMS),34,3,16(2008)·Zbl 1291.65173号 ·数字对象标识代码:10.1145/1356052.1356057
[13] SJ本森;叶,Y。;张欣,求解大型稀疏半定组合优化问题,SIAM J.Optim。,10, 443-461 (2000) ·Zbl 0997.90059号 ·doi:10.1137/S1052623497328008
[14] Blair,J.R.S.,Peyton,B.:弦图和团树简介。收录:A.George、J.R.Gilbert、J.W.H.Liu(编辑)《图论与稀疏矩阵计算》。Springer-Verlag(1993)·Zbl 0803.68081号
[15] Borchers,B.:SDPLIB 1.2,半定编程测试问题库。最佳方案。方法软件。11(1-4), 683-690 (1999) ·Zbl 0973.90522号
[16] 博伊德,S。;北卡罗来纳州帕里赫。;朱,E。;佩莱托,B。;Eckstein,J.,《通过交替方向乘数法进行分布式优化和统计学习》,Found。趋势马赫数。学习。,3, 1, 1-122 (2011) ·Zbl 1229.90122号 ·doi:10.1561/220000016
[17] Brézis,H.:最大单调和半群收缩算子。北荷兰数学研究,第5卷。北荷兰人(1973)·Zbl 0252.47055号
[18] Burer,S.,部分正半定矩阵空间中的半定规划,SIAM J.Optim。,14, 1, 139-172 (2003) ·Zbl 1075.90059号 ·doi:10.137/S105262340240851X
[19] Censor,Y。;并行优化:理论、算法和应用。《数值数学与科学计算》(1997),纽约:牛津大学出版社,纽约·Zbl 0945.90064号
[20] Chambolle,A。;Pock,T.,凸问题的一阶原对偶算法及其在成像中的应用,J.Math。成像视觉。,40, 120-145 (2011) ·Zbl 1255.68217号 ·doi:10.1007/s10851-010-0251-1
[21] Chambolle,A.,Pock,T.:图像连续优化简介。《数字学报》第161-319页(2016年)·Zbl 1343.65064号
[22] Chambolle,A。;Pock,T.,关于一阶原对偶算法的遍历收敛速度,数学。程序。序列号。A、 159253-287(2016)·Zbl 1350.49035号 ·doi:10.1007/s10107-015-0957-3
[23] 陈,G。;Teboulle,M.,使用Bregman函数的近似最小化算法的收敛性分析,SIAM J.Optim。,3, 538-543 (1993) ·Zbl 0808.90103号 ·数字对象标识代码:10.1137/0803026
[24] Condat,L.,《涉及Lipschitz、近似和线性组合项的凸优化的原对偶分裂方法》,J.Optim。理论应用。,158, 2, 460-479 (2013) ·Zbl 1272.90110号 ·doi:10.1007/s10957-012-0245-9
[25] Davis,D.,Yin,W.:三算子分裂方案及其优化应用(2015)。arxiv.org/abs/1504.01032·Zbl 1464.47041号
[26] Eckstein,J.,《使用Bregman函数的非线性近点算法及其在凸规划中的应用》,数学。操作。第18号、第1号、第202-226号决议(1993年)·Zbl 0807.47036号 ·doi:10.1287/门。2002年18月18日
[27] Eltved,A.,Dahl,J.,Andersen,M.S.:关于最优潮流问题的半定松弛的鲁棒性和可扩展性。优化与工程第1-18页(2020年)·Zbl 1447.90069号
[28] Esser,E。;张,X。;Chan,T.,成像科学中用于凸优化的一类一阶原对偶算法的一般框架,SIAM J.Imag。科学。,3, 4, 1015-1046 (2010) ·Zbl 1206.90117号 ·doi:10.1137/09076934X
[29] 藤泽,K。;小岛,M。;Nakata,K.,利用半定规划的原对偶内点方法中的稀疏性,数学。程序。,79, 1-3, 235-253 (1997) ·Zbl 0887.90156号
[30] 福田,M。;小岛,M。;Murota,K。;Nakata,K.,通过矩阵补全利用半定规划中的稀疏性I:一般框架,SIAM J.Optim。,11, 647-674 (2000) ·Zbl 1010.90053号 ·doi:10.1137/S1052623400366218
[31] 格罗恩,R。;约翰逊,CR;Sá,EM;Wolkowicz,H.,部分厄米矩阵的正定完备,线性代数应用。,58, 109-124 (1984) ·Zbl 0547.15011号 ·doi:10.1016/0024-3795(84)90207-6
[32] Güler,O.:具有Bregman函数的近点算法的遍历收敛。摘自:D.Z.Du,J.Sun(编辑)《优化与逼近进展》,第155-165页。斯普林格(1994)·兹伯利0828.90103
[33] 他,B。;Yuan,X.,鞍点问题原对偶算法的收敛性分析:从收缩角度,SIAM J.Imag。科学。,5, 1, 119-149 (2012) ·Zbl 1250.90066号 ·数字对象标识代码:10.1137/100814494
[34] Kim,S。;小岛,M。;Mevissen,M。;Yamashita,M.,通过半正定矩阵补全利用线性和非线性矩阵不等式中的稀疏性,数学。程序。,129, 33-68 (2011) ·Zbl 1229.90116号 ·doi:10.1007/s10107-010-0402-6
[35] Kobayashi,K。;Kim,S。;Kojima,M.,LP、SDP和SOCP的原对偶内点方法中的相关稀疏性,应用。数学。最佳。,58, 1, 69-88 (2008) ·Zbl 1191.90032号 ·doi:10.1007/s00245-007-9030-9
[36] Kolodziej,S。;阿兹纳夫,M。;布洛克,M。;大卫·J。;Davis,T。;亨德森,M。;胡,Y。;Sandstrom,R.,The suitesparse矩阵集合网站界面,J.开源软件。,4, 35, 1244 (2019) ·doi:10.21105/joss.01244
[37] Lin,T。;马,S。;叶,Y。;Zhang,S.,基于ADMM的大规模线性规划内点方法,Optim。方法软件。,36, 2-3, 389-424 (2021) ·Zbl 1470.90048号 ·doi:10.1080/10556788.2020.1821200
[38] Madani,R.,Kalbat,A.,Lavaei,J.:稀疏半定规划的ADMM及其在最优潮流问题中的应用。摘自:第54届IEEE决策与控制会议记录,第5932-5939页(2015)
[39] Malitsky,Y。;Pock,T.,带线性搜索的一阶原对偶算法,SIAM J.Optim。,28, 1, 411-432 (2018) ·兹比尔1390.49033 ·doi:10.1137/16M1092015年
[40] 莫罗,JJ,Proximitéet dualitédans un espace hilbertien,公牛。数学。法国南部,93,273-299(1965)·Zbl 0136.12101号 ·doi:10.24033/bsmf.1625
[41] MOSEK ApS:MOSEK优化工具手册。版本8.1。(2019). 可从www.mosek.com获取
[42] Nakata,K。;藤泽,K。;福田,M。;小岛,M。;Murota,K.,《通过矩阵补全利用半定规划中的稀疏性II:实现和数值细节》,数学。程序。序列号。B、 95、303-327(2003)·Zbl 1030.90081号 ·doi:10.1007/s10107-002-0351-9
[43] Nesterov,Y.:凸优化讲座。斯普林格出版公司(2018)·Zbl 1427.90003号
[44] Nesterov,Y.,Nemirovskii,A.:凸规划中的内点多项式方法,应用数学研究,第13卷。宾夕法尼亚州费城SIAM(1994)·Zbl 0824.90112号
[45] 奥康纳,D。;Vandenberghe,L.,关于原-对偶混合梯度法与Douglas-Rachford分裂的等价性,Math。程序。,179, 1-2, 85-108 (2020) ·Zbl 1498.90156号 ·doi:10.1007/s10107-018-1321-1
[46] 斯洛伐克帕卡扎德;Hansson,A。;安徒生,理学硕士;Rantzer,A.,《分布式半定规划及其在大规模系统分析中的应用》,IEEE Trans。自动化。控制,63,4,1045-1058(2018)·Zbl 1390.90419号 ·doi:10.1109/TAC.2017.2739644
[47] Pock,T.,Cremers,D.,Bischof,H.,Chambolle,A.:最小化Mumford-Shah泛函的算法。摘自:IEEE第十二届计算机视觉国际会议(ICCV)会议记录,第1133-1140页(2009)
[48] Pougkakiotis,S.,Gondzio,J.:凸二次规划的乘数内部点-极值方法。计算。最佳方案。申请。78 (2021) ·兹比尔1469.90158
[49] Shefi,R。;Teboulle,M.,基于凸极小化乘数近似方法的分解方法的收敛速度分析,SIAM J.Optim。,24, 1, 269-297 (2014) ·Zbl 1291.90176号 ·doi:10.137/130910774
[50] Srijuntongsiri,G.,Vavasis,S.:半定规划的原-对偶点内势约简方法的完全稀疏实现(2004)。arXiv:cs/0412009
[51] 孙,Y。;安徒生,理学硕士;Vandenberghe,L.,部分可分结构圆锥优化中的分解,SIAM J.Optim。,24, 873-897 (2014) ·Zbl 1297.90111号 ·doi:10.1137/130926924
[52] 孙,Y。;Vandenberghe,L.,稀疏矩阵逼近问题的分解方法,SIAM J.矩阵分析。申请。,36, 4, 1691-1717 (2015) ·Zbl 1342.90128号 ·数字对象标识代码:10.1137/15M1011020
[53] Tseng,P.,极大单调映射的一种改进的前向分裂方法,SIAM J.Control。最佳。,38, 2, 431-446 (2000) ·Zbl 0997.90062号 ·doi:10.1137/S0363012998338806
[54] 范登伯格,L。;Andersen,MS,弦图和半定优化,Found。最佳趋势。,1, 4, 241-433 (2014) ·数字对象标识代码:10.1561/24000006
[55] 范登伯格,L。;Boyd,S.,《涉及矩阵不等式问题的原对偶势约简方法》,数学。程序。,69, 1, 205-236 (1995) ·Zbl 0857.90104号
[56] Vũ,BC,涉及余强制算子的对偶单调包含的分裂算法,高级计算。数学。,38, 667-681 (2013) ·Zbl 1284.47045号 ·doi:10.1007/s10444-011-9254-8
[57] Yan,M.,用线性算子最小化三个函数之和的新原对偶算法,J.Sci。计算。,76, 3, 1698-1717 (2018) ·Zbl 1415.65142号 ·doi:10.1007/s10915-018-0680-3
[58] 张,RY;Lavaei,J.,通过对偶团树转换保证近线性时间复杂性的稀疏半定程序,数学。程序。,188, 1, 351-393 (2021) ·Zbl 1470.90070 ·doi:10.1007/s10107-020-01516-y
[59] Zheng,Y.,Fantuzzi,G.,Papachistodolou,A.,Goulart,P.,Wynn,A.:弦稀疏半定程序的快速ADMM。2017年美国控制会议(ACC),第3335-3340页(2017)
[60] 郑毅。;范图齐,G。;Papachristodoulou,A.,可伸缩半定和多项式优化的弦和因子宽度分解,Annu。版本控制(2021)·doi:10.1016/j.arcontrol.2021.09.001
[61] 郑毅。;范图齐,G。;Papachristodoulou,A。;Goulart,P。;Wynn,A.,稀疏半定程序的算子分裂方法中的Chordal分解,数学。程序。,180, 489-532 (2020) ·Zbl 1434.90126 ·doi:10.1007/s10107-019-01366-3
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。