丁丽君；阿尔卑斯山尤瑟夫；沃尔坎·塞弗尔；乔尔·特罗普。；马德琳·乌德尔 使用近似互补的半定规划的最优存储方法。 （英语） 兹比尔1480.90188 SIAM J.Optim公司。 31，第4期，2695-2725（2021）. 摘要：本文提出了一种新的存储优化算法，该算法可证明求解几乎所有半定程序（SDP）。在适当的正则性条件下，该方法对弱约束SDP特别有效。关键思想是制定一个近似互补原理：给出对偶SDP的近似解，原始SDP有一个近似解，其范围包含在对偶松弛矩阵的小特征值的特征空间中。对于弱约束SDP，该特征空间的维数很低，因此，这个观察大大减少了原始解的搜索空间。该结果提出了一种可以用最小存储量实现的算法策略：（1）近似求解对偶SDP；（2） 将原始SDP压缩到对偶松弛矩阵具有小特征值的特征空间；（3） 求解压缩的原始SDP。本文还提供了数值实验，表明该方法对于一系列有趣的大规模SDP是成功的。 引用于5文件 MSC公司： 90立方厘米22 半定规划 90C06型 数学规划中的大尺度问题 4.95亿 基于必要条件的数值方法 关键词：半定程序；存储优化；劣等的；互补松弛；原始恢复 软件：DIMACS公司；稀疏矩阵；SDPT3型；科尔；莫塞克；SDPLR公司；塞杜米；SCS公司；github；SDPNAL公司+；相位提升 PDF格式BibTeX公司 XML格式引用 \textit｛L.Ding｝等人，SIAM J.Optim。31，第4号，2695--2725（2021；Zbl 1480.90188） 全文： 内政部 arXiv公司 参考文献： [1] 佛罗里达大学稀疏矩阵集合：Dimacs10集团，https://www.cise.ufl.edu/research/sparse/matrices/DIMACS10/index.html。 [2] 佛罗里达大学稀疏矩阵集合：Gset Group，https://www.cise.ufl.edu/research/sparse/matrices/Gset/index.html。 [3] F.Alizadeh，《用内点方法和半定矩阵进行组合优化》，明尼苏达大学博士论文，1991年。 [4] F.Alizadeh，半定规划中的内点方法及其在组合优化中的应用，SIAM J.Optim。，5（1995），第13-51页·Zbl 0833.90087号 [5] F.Alizadeh，J.-P.A.Haeberly和M.L.Overton，《半定规划中的互补性和非退化性》，数学。程序。，77（1997），第111-128页·兹标0890.90141 [6] F.Alizadeh，J.-P.A.Haeberly，M.L.Overton，《半定规划的原对偶内点方法：收敛速度、稳定性和数值结果》，SIAM J.Optim。，8（1998），第746-768页·Zbl 0911.65047号 [7] X.Bai，H.Wei，K.Fujisawa，Y.Wang，最优潮流问题的半定规划，国际。《电力能源系统杂志》，30（2008），第383-392页。 [8] A.I.Barvinok，距离几何问题和二次映射的凸性，离散计算。地理。，13（1995年），第189-202页·Zbl 0829.05025号 [9] A.Beck和M.Teboulle，线性反问题的快速迭代收缩阈值算法，SIAM J.成像科学。，2（2009年），第183-202页·兹比尔1175.94009 [10] R.Bellman和K.Fan，关于厄米矩阵变量中的线性不等式组，凸性，7（1963），第1-11页·Zbl 0148.26001号 [11] S.J.Benson，Y.Ye，X.Zhang，求解大型稀疏半定组合优化程序，SIAM J.Optim。，10（2000），第443-461页·Zbl 0997.90059号 [12] N.Boumal、V.Voroninski和A.Bandeira，《非凸Burr-Monteiro方法在光滑半定程序中的应用》，载于《神经信息处理系统进展》，2016年，第2757-2765页。 [13] S.Boyd、L.El Ghaoui、E.Feron和V.Balakrishnan，系统和控制理论中的线性矩阵不等式，研究应用。数字。数学。15，SIAM，费城，1994年·Zbl 0816.93004号 [14] S.Boyd、N.Parikh、E.Chu、B.Peleato和J.Eckstein，通过乘数交替方向方法进行分布式优化和统计学习，Found。《机器学习趋势》，3（2011），第1-122页·Zbl 1229.90122号 [15] S.Boyd和L.Vandenberghe，《凸优化》，剑桥大学出版社，英国剑桥，2004年·Zbl 1058.90049号 [16] S.Burer和R.D.Monteiro，通过低秩因式分解求解半定规划的非线性规划算法，数学。程序。，95（2003），第329-357页·Zbl 1030.90077号 [17] S.Burer和R.D.Monteiro，低秩半定规划中的局部极小和收敛性，数学。程序。，103（2005），第427-444页·Zbl 1099.90040号 [18] E.J.Candes、Y.C.Eldar、T.Strohmer和V.Voroninski，通过矩阵完成的相位恢复，SIAM Rev.，57（2015），第225-251页·Zbl 1344.49057号 [19] E.J.Candès和B.Recht，通过凸优化实现精确矩阵补全，Found。计算。数学。，9 (2009), 717. ·Zbl 1219.90124号 [20] A.Chai、M.Moscoso和G.Papanicolaou，《仅使用强度测量的阵列成像》，《反问题》，27（2010），015005·Zbl 1207.78022号 [21] A.Chambolle和T.Pock，凸问题的一阶原对偶算法及其在成像中的应用，J.Math。成像视觉。，40（2011年），第120-145页·兹比尔1255.68217 [22] Y.Chen、Y.Chi和A.J.Goldsmith，通过凸规划从二次抽样中进行精确和稳定的协方差估计，IEEE Trans。通知。《理论》，61（2015），第4034-4059页·Zbl 1359.62181号 [23] K.L.Clarkson，Coresets，稀疏贪婪近似，以及Frank-Wolfe算法，ACM Trans。算法，6（2010），63·Zbl 1300.90026号 [24] S.Diamond和S.Boyd，无矩阵凸优化建模，摘自《优化及其在控制和数据科学中的应用》，Springer，纽约，2016年，第221-264页·Zbl 1354.90092号 [25] L.Ding和M.Udell，《关于低秩半定程序的正则性和条件》，预印本，arXiv:2002.106732020。 [26] L.Ding、A.Yurtsever、V.Cevher、J.A.Tropp和M.Udell，补充材料：使用近似互补的半定规划的最优存储方法，https://people.orgie.cornell.edu/ld446/supplement.pdf。 [27] D.Drusvyatskiy和A.S.Lewis，误差界，二次增长和近似方法的线性收敛，数学。操作。第43号决议（2018年），第693-1050页·Zbl 1440.90046号 [28] M.Frank和P.Wolfe，二次规划算法，海军研究后勤。夸脱。，3（1956年），第95-110页。 [29] M.P.Friedlander和I.Macedo，通过规范对偶进行低阶谱优化，SIAM J.Sci。计算。，38（2016），第A1616-A1638页·Zbl 1342.90115号 [30] D.Gabay和B.Mercier，《通过有限元近似求解非线性变分问题的对偶算法》，信息与自动化研究所，1975年·Zbl 0352.65034号 [31] R.Glowinski和A.Marroco，《Sur l’A approximation》，《par e®le®ments finishs d'ordre un》，《et la re®solution》，“par pe®nalisation-qualite®d'une classe de proble®mes de dirichlet non-line®aires”，《Revue franc®aise d'automatique》，信息，《recherche ope®rationnelle》。Analyse numeárique，9（1975），第41-76页·Zbl 0368.65053号 [32] M.X.Goemans和D.P.Williamson，《MAX CUT和MAX（2）SAT的879-近似算法》，载于《第26届ACM计算理论研讨会论文集》，ACM，1994年，第422-431页·Zbl 1345.68274号 [33] M.X.Goemans和D.P.Williamson，使用半定规划求解最大割和可满足性问题的改进近似算法，J.ACM，42（1995），第1115-1145页·Zbl 0885.68088号 [34] N.Halko、P.G.Martinsson和J.A.Tropp，《发现随机结构：构造近似矩阵分解的概率算法》，SIAM Rev.，53（2011），第217-288页·Zbl 1269.65043号 [35] E.Hazan，《半定规划的稀疏近似解》，拉丁美洲理论信息学研讨会，施普林格，纽约，2008年，第306-316页·Zbl 1136.90430号 [36] C.Helmberg和F.Rendl，半定规划的谱丛方法，SIAM J.Optim。，10（2000年），第673-696页·Zbl 0960.65074号 [37] S.Homer和M.Peinado，用于maxcut的并行和分布式近似算法的设计和性能，《并行分布式计算杂志》，46（1997），第48-61页。 [38] M.Jaggi，《重温Frank-Wolfe:无投影稀疏凸优化》，《第30届机器学习国际会议论文集》，2013年，第427-435页。 [39] D.Johnson、G.Pataki和F.Alizadeh，《第七个DIMAC实现挑战：半定及相关优化问题》，DIMACs，新泽西州皮斯卡塔韦，2000年。 [40] P.R.Johnstone和P.Moulin，《霍尔德增长函数的快速次梯度方法》，预印本，arXiv:1704.001962017年·兹比尔1461.65161 [41] R.H.Keshavan、A.Montanari和S.Oh，《几个条目的矩阵补全》，IEEE Trans。通知。《理论》，56（2010），第2980-2998页·Zbl 1366.62111号 [42] J.Kuczynáski和H.Wozániakowski，通过随机启动的幂和Lanczos算法估计最大特征值，SIAM J.Matrix Anal。申请。，13（1992年），第1094-1122页·Zbl 0759.65016号 [43] A.Lemon、A.M.-C.So和Y.Ye，《低秩半定规划：理论与应用》，《发现》。最佳趋势。，2（2016），第1-156页。 [44] E.S.Levitin和B.T.Polyak，约束最小化方法，Zh。维奇尔。Mat.Mat.Fiz.，材料Fiz。，6（1966年），第787-823页·Zbl 0184.38902号 [45] K.Y.Levy、A.Yurtsever和V.Cevher，《在线自适应方法，普遍性和加速》，预印本，arXiv:1809.028642018年。 [46] R.Madani、S.Sojoudi和J.Lavaei，最优潮流问题的凸松弛：网格网络，IEEE Trans。《电力系统》，30（2015），第199-211页。 [47] J.Malick、J.Povh、F.Rendl和A.Wiegele，半定规划的正则化方法，SIAM J.Optim。，20（2009），第336-356页·Zbl 1187.90219号 [48] C.Mathieu和W.Schudy，带噪声输入的相关聚类，第21届ACM-SIAM离散算法研讨会论文集，SIAM，费城，2010年，第712-728页·Zbl 1288.68197号 [49] A.Mosek，Mosek优化软件，网址：http://www.mosek.com, 2010. [50] Y.Nesterov，凸优化入门讲座：基础课程，应用。最佳方案。87，施普林格，纽约，2013年·Zbl 1086.90045号 [51] Y.Nesterov和A.Nemirovski，凸规划中的自协调函数和多项式时间方法，苏联科学院，中央经济与数学研究所，莫斯科，1989年。 [52] Y.Nesterov和A.Nemirovskii，凸规划中的内点多项式算法，研究应用。数字。数学。13，SIAM，费城，1994年·Zbl 0824.90112号 [53] B.O’Donoghue、E.Chu、N.Parikh和S.Boyd，通过算子分裂和齐次自对偶嵌入的二次曲线优化，J.Optim。理论应用。，169（2016），第1042-1068页·Zbl 1342.90136号 [54] B.O'Donoghue、E.Chu、N.Parikh和S.Boyd，SCS:分裂圆锥解算器，2.0.2版，https://github.com/cvxgrp/scs, 2017. [55] G.Pataki，关于半定程序中极值矩阵的秩和最优特征值的多重性，数学。操作。Res.，23（1998），第339-358页·Zbl 0977.90051号 [56] N.Rao、P.Shah和S.Wright，原子形式正则化的增强和截断条件梯度，NIPS贪婪算法研讨会，2013年。 [57] B.Recht、M.Fazel和P.A.Parrilo，通过核范数最小化的线性矩阵方程的保证最小秩解，SIAM Rev.，52（2010），第471-501页·Zbl 1198.90321号 [58] J.Renegar，线性规划和半定规划的高效一阶方法，预印本，arXiv:1409.58322014。 [59] R.T.Rockafellar，Monotone操作符和近点算法，SIAM J.Control Optim。，14（1976年），第877-898页·Zbl 0358.90053号 [60] A.P.Ruszczynöski和A.Ruszzynski，《非线性优化》，普林斯顿大学出版社，新泽西州普林斯顿，2006年·Zbl 1108.90001号 [61] N.Srebro和A.Shraibman，Rank，Trace-norm和Max-norm，《计算学习理论国际会议》，Springer，纽约，2005年，第545-560页·Zbl 1137.68563号 [62] J.F.Sturm，使用SeDuMi 1.02，一个用于对称锥优化的MATLAB工具箱，Optim。方法软件。，11（1999），第625-653页·Zbl 0973.90526号 [63] J.F.Sturm，线性矩阵不等式的误差界，SIAM J.Optim。，10（2000），第1228-1248页·Zbl 0999.90027号 [64] D.Sun，K.-C.Toh，Y.Yuan，和X.-Y.Zhao，SDPNAL+：一个用于有界约束半定规划的MATLAB软件（1.0版），Optim。方法软件。，35（2020年），第87-115页·Zbl 1432.90104号 [65] M.J.Todd，《半定优化》，《数值学报》。，10（2001年），第515-560页·Zbl 1105.65334号 [66] K.-C.Toh、M.J.Todd和R.H.Tu¨Tu¨ncu¨，SDPT3-半定编程的MATLAB软件包，1.3版，Optim。方法软件。，11（1999），第545-581页·Zbl 0997.90060号 [67] L.Vandenberghe和S.Boyd，半定规划，SIAM Rev.，38（1996），第49-95页·Zbl 0845.65023号 [68] I.Waldspurger，A.d‘Aspremont和S.Mallat，相位恢复，最大割和复杂半定规划，数学。程序。，149（2015），第47-81页·Zbl 1329.94018号 [69] I.Waldspurger和A.Waters，《Burr-Monteiro因子分解的最优排序》，预印本，arXiv:1812.030462018年·Zbl 1451.90114号 [70] Z.Wen、D.Goldfarb和W.Yin，半定规划的交替方向增广拉格朗日方法，数学。程序。计算。，2（2010年），第203-230页·Zbl 1206.90088号 [71] Y.Yu、T.Wang和R.J.Samworth，Davis-Kahan定理对统计学家的有用变体，Biometrika，102（2014），第315-323页·Zbl 1452.15010号 [72] A.Yurtsever、O.Fercoq和V.Cevher，基于条件梯度的增广拉格朗日框架，载于2019年国际机器学习会议，第7272-7281页。 [73] A.Yurtsever、O.Fercoq、F.Locatello和V.Cevher，《复合凸极小化的条件梯度框架及其在半定规划中的应用》，机器学习国际会议，2018年，第5727-5736页。 [74] A.Yurtsever、Y.-P.Hsieh和V.Cevher，相位恢复的可缩放凸方法，《第六届多传感器自适应处理计算进展国际研讨会论文集》，IEEE，2015年，第381-384页。 [75] A.Yurtsever、J.Tropp、O.Fercoq、M.Udell和V.Cevher，可伸缩半定规划，预印本，arXiv:1912.029492019·Zbl 1470.90068号 [76] A.Yurtsever、M.Udell、J.Tropp和V.Cevher，《草图决策：最优存储的凸低阶矩阵优化》，国际人工智能与统计会议，2017年，第1188-1196页。 [77] X.-Y.Zhao，D.Sun，K.-C.Toh，半定规划的Newton-CG增广拉格朗日方法，SIAM J.Optim。，20（2010年），第1737-1765页·Zbl 1213.90175号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。