马里奥·索托;Joaquim D.加西亚。;阿尔瓦罗·维加 通过近似算子分裂利用半定规划中的低秩结构。 (英语) Zbl 1486.90141号 优化 71,第1期,117-144(2022). 摘要:与许多其他凸优化类相比,最先进的半定规划求解器仍然无法有效地求解大规模实例。本文旨在通过提出一种新的近似算法来解决一般半定规划问题,从而缩小这种可伸缩性差距。该算法的关键特点是能够利用几个半定规划问题固有的低秩特性。利用低秩结构提供了显著的加速,并允许操作符拆分方法有效地扩展到更大的实例。与其他基于低秩的方法相比,该算法对一般半定规划问题具有收敛性保证。此外,一个开源半定编程求解器称为ProxSDP传感器并讨论了其实现细节。为了评估所提出方法的性能,进行了案例研究。 引用于2文件 MSC公司: 90C22型 半定规划 关键词:半定规划;运算符拆分方法;不精确不动点迭代;近似近点;凸优化;低秩矩阵逼近 软件:ProxImaL传感器;朱莉娅;JuMP公司;SCS公司;ProxSDP传感器;数学光学接口.jl;SDPNAL公司+;LAPACK公司;ARPACK公司;SDPLIB公司;莫塞克;SDPLR公司 PDF格式BibTeX公司 XML格式引用 \textit{M.Souto}等人,优化71,No.1,117--144(2022;Zbl 1486.90141) 全文: 内政部 arXiv公司 参考文献: [1] Raghavendra,P.每个csp的最优算法和不可接近性结果?附:第四十届ACM计算理论年会论文集;ACM;2008年,第245-254页·Zbl 1231.68142号 [2] Chambolle,A。;Pock,T.,凸问题的一阶原对偶算法及其在成像中的应用,《数学成像视觉杂志》,40,1,120-145(2011)·Zbl 1255.68217号 [3] Rontsis,N,Goulart,PJ,Nakatsukasa,Y.具有近似admm的高效半定规划。预印arXiv:191202767。2019. ·Zbl 1484.90068号 [4] 格洛温斯基,R。;Marroco,A.,《Sur l’A approximation,paréments finis d’ordre un,et la résolution,par e nalisation qualityéd une class de problèmes de dirichlet nonéaires,Revue francaise d’automatique,informatique,recherche op rationnelle Analyse numerique》,9,R2,41-76(1975)·兹比尔0368.65053 [5] 埃克斯坦,J。;Bertsekas博士。,关于最大单调算子的Douglas-Rachford分裂方法和近点算法,数学程序,55,1-3,293-318(1992)·Zbl 0765.90073号 [6] 范登伯格,L。;Boyd,S.,《半定规划》,SIAM Rev,38,1,49-95(1996)·Zbl 0845.65023号 [7] Wolkowicz,H。;Saigal,R。;Vandenberghe,L.,《半定规划手册:理论、算法和应用》,27(2012),Springer Science&Business Media [8] 范登伯格,L。;Boyd,S.,半定规划的应用,应用数值数学,29,3,283-299(1999)·Zbl 0956.90031号 [9] 阿尔·卢尔,《自动控制理论中的一些非线性问题》(1957年),英国女王文具局 [10] Kuindersma,S。;Deits,R。;Fallon,M.,atlas类人机器人基于优化的运动规划、估计和控制设计,Auton Robots,40,3,429-455(2016) [11] 贝尔曼,R。;Fan,K.,关于hermitian矩阵变量中的线性不等式组,凸性,7,1-11(1963)·Zbl 0148.26001号 [12] 范登伯格,L。;巴拉克里希南,VR;Wallin,R.,从kyp引理导出的半定规划问题的内点算法,正多项式控制,195-238(2005)·Zbl 1070.90083号 [13] 博伊德,S。;El Ghaoui,L。;Feron,E.,系统和控制理论中的线性矩阵不等式(1994),SIAM·Zbl 0816.93004号 [14] Scherer,C,Weiland,S.控制中的线性矩阵不等式。荷兰:代尔夫特;2000年(荷兰系统与控制研究所讲稿;3)。 [15] 拉瓦伊,J。;最优潮流问题中的低、SH.、零二元缺口,IEEE Trans power Syst。,27, 1, 92-107 (2012) [16] 范登伯格,L。;博伊德,S。;El Gamal,A.,优化rc电路中的主导时间常数,IEEE Trans Compute Aided Design Int circuits Syst,17,2,110-125(1998) [17] Vandenberghe,L,Boyd,S,El Gamal,A.非树拓扑电路的最佳导线和晶体管尺寸。1997年IEEE/ACM计算机辅助设计国际会议论文集;IEEE计算机学会;1997年,第252-259页。 [18] 本·塔尔,A。;Nemirovski,A.,通过半定规划进行稳健桁架拓扑设计,SIAM J Optim,7,4,991-1016(1997)·Zbl 0899.90133号 [19] 本·塔尔,A。;Nemirovski,A.,鲁棒凸优化,Math Oper Res,23,4,769-805(1998)·Zbl 0977.90052号 [20] Zymler,S。;库恩,D。;Rustem,B.,具有二阶矩信息的分布稳健联合机会约束,数学程序,1-32(2013)·Zbl 1286.90103号 [21] Lovász,L。;Schrijver,A.,矩阵锥、集函数锥和0-1优化,SIAM J Optim,1,2166-190(1991)·Zbl 0754.90039号 [22] 戈曼斯,墨西哥;威廉姆森博士。,使用半定规划求解最大割和可满足性问题的改进近似算法,J ACM(JACM),42,6,1115-1145(1995)·Zbl 0885.68088号 [23] Karloff,H,Zwick,U。max 3sat的7/8近似算法?摘自:《计算机科学基础》,1997年。诉讼程序。,第38届年会;IEEE;1997年,第406-415页。 [24] Cvetković,D,Changalović,M,Kovaćević-Vujćić。对称旅行商问题的半定规划方法。In:整数规划和组合优化国际会议;施普林格;1999年,第126-136页·Zbl 0948.90114号 [25] 坎迪斯,EJ;Eldar,YC;Strohmer,T.,通过矩阵补全进行相位恢复,SIAM Rev,57,2,225-251(2015)·Zbl 1344.49057号 [26] Lovász,L.半定规划与组合优化。In:算法和组合学的最新进展。施普林格;2003年,第137-194页·Zbl 1040.90032号 [27] De Bie,T.为机器学习部署sdp。In:ESANN;2007年,第205-210页。 [28] Candes,大肠杆菌。;Recht,B.,通过凸优化实现精确矩阵补全,Commun ACM,55,6,111-119(2012) [29] Bennett,J,Lanning,S。网飞奖。In:KDD杯和研讨会会议记录;2007年第1卷;纽约(NY);2007年,第35页。 [30] 温赖特,MJ;乔丹,密歇根州,离散马尔可夫随机场近似推断的对数决定松弛,IEEE Trans-Signal Process,54,6,2099-2109(2006)·Zbl 1374.94616号 [31] 《柳叶刀》,GR;克里斯蒂安尼,N。;Bartlett,P.,用半定规划学习核矩阵,J Mach Learn Res,5,Jan,27-72(2004)·Zbl 1222.68241号 [32] 《柳叶刀》,GR;De Bie,T。;Cristianini,N.,基因组数据融合的统计框架,生物信息学,20,16,2626-2635(2004) [33] Khot,S.论独特的双谚语单回合游戏的力量。摘自:第三十届ACM计算理论研讨会论文集;ACM;2002年,第767-775页·Zbl 1192.68367号 [34] 科特,S。;Minzer,D。;Safra,M.,格拉斯曼图中的伪随机集具有近完美展开,电子学术讨论会计算复杂性(ECCC),25,92-601(2018) [35] Dinur,I,Khot,S,Kindler,G,et al.走向2对1游戏猜想的证明?摘自:第50届ACM SIGACT计算理论研讨会论文集;ACM;2018年,第376-389页·Zbl 1429.68076号 [36] Shor,NZ.,凸规划问题中具有空间扩展的截断方法,Cybern Syst Anal,13,1,94-96(1977) [37] 伊乌丁,D。;Nemirovskii,AS,《信息复杂性和解决复杂极值问题的有效方法》,Matekon,13,3,25-45(1977) [38] 希里亚特·乌鲁蒂,JB;Lemaréchal,C.,《凸分析和最小化算法I:基础》,305(2013),施普林格科学与商业媒体 [39] Karmarkar,N.线性规划的一种新的多项式时间算法。附:第十六届ACM计算理论年会论文集;ACM;1984年,第302-311页·Zbl 0557.90065号 [40] 阿德勒,I。;重发,MG;Veiga,G.,Karmarkar线性规划算法的实现,《数学程序》,44,1,297-335(1989)·兹比尔0682.90061 [41] 内斯特罗夫,Y。;Nemirovskii,A.,凸规划中的内点多项式算法(1994),SIAM·Zbl 0824.90112号 [42] Alizadeh,F.,《正定锥上的优化:内点方法和组合应用》,Adv.Optim。并行计算,5,1(1992)·Zbl 0814.90071号 [43] Helmberg,C。;伦德尔,F。;Vanderbei,RJ,半定规划的内点方法,SIAM J Optim,6,2,342-361(1996)·Zbl 0853.65066号 [44] Alizadeh,F。;海伯里,JPA;Overton,ML.,半定规划的Primal对偶内点方法:收敛速度、稳定性和数值结果,SIAM J Optim,8,3,746-768(1998)·Zbl 0911.65047号 [45] Mosek,A.Mosek优化软件。2010年;54:2-1. 可从以下位置获得:http://www.mosek.com。 [46] 博伊德,S。;北卡罗来纳州帕里赫。;Chu,E.,《通过交替方向乘数法进行分布式优化和统计学习》,《基础趋势(####)马赫学习》,3,1,1-122(2011)·Zbl 1229.90122号 [47] Heide,F。;钻石,S。;Nießner,M.,Proximal:使用近端算法的高效图像优化,ACM Trans Graphics(TOG),35,4,84(2016) [48] 奥多诺休,B。;朱,E。;Parikh,N.,通过算子分裂和齐次自对偶嵌入实现二次曲线优化,J Optim Theory Appl,169,3,1042-1068(2016)·Zbl 1342.90136号 [49] 温,Z。;Goldfarb,D。;Yin,W.,半定规划的交替方向增广拉格朗日方法,数学程序计算,2,3-4,203-230(2010)·Zbl 1206.90088号 [50] Madani,R,Kalbat,A,Lavaei,J.Admm,稀疏半定规划及其在最优潮流问题中的应用。In:决策与控制(CDC),2015年IEEE第54届年会;IEEE;2015年,第5932-5939页。 [51] Yang,L.等人。;Sun,D。;德克萨斯州托赫。,Sdpnal:非负约束下半定规划的优化半光滑牛顿-cg增广拉格朗日方法,数学程序Comput,7,331-366(2015)·Zbl 1321.90085号 [52] 福田,M。;小岛,M。;Murota,K.,通过矩阵补全利用半定规划中的稀疏性i:一般框架,SIAM J Optim,11,3,647-674(2001)·Zbl 1010.90053号 [53] Nakata,K。;藤泽,K。;Fukuda,M.,通过矩阵补全利用半定规划中的稀疏性ii:实现和数值结果,《数学程序》,95,2,303-327(2003)·Zbl 1030.90081号 [54] 范登伯格,L。;Andersen,MS,弦图和半定优化,基础趋势(####\)Optim,1,4,241-433(2015) [55] 斯洛伐克帕卡扎德;Hansson,A。;Andersen,MS,分布式半定规划及其在大规模系统分析中的应用,IEEE Trans-Automat Control,63,4,1045-1058(2018)·Zbl 1390.90419号 [56] Fujisawa,K,Sato,H,Matsuoka,S,et al.超大型半定规划问题的高性能通用求解器。参加:2012年高性能计算、网络、存储和分析国际会议(SC);IEEE;2012年,第1-11页。 [57] Zhang,RY,Lavaei,J.具有近线性时间复杂性的稀疏半定规划。预印arXiv:171003475;2017. ·Zbl 1470.90070 [58] Zhang,RY,Lavaei,J.大稀疏低秩半定规划的改进内点法。预印arXiv:170310973;2017 [59] 郑毅。;范图齐,G。;Papachristodoulou,A.,稀疏半定程序的算子分裂方法中的弦分解,数学程序,180,1489-532(2020)·Zbl 1434.90126 [60] Ryu,EK;Boyd,S.,单调算子方法入门,应用计算数学,15,1,3-43(2016)·Zbl 1342.47066号 [61] Eckstein,J.单调算子的分裂方法及其在并行优化中的应用[论文]。麻省理工学院;1989 [62] Combettes,PL.,通过非扩张平均算子的组合求解单调包含,优化,53,5-6,475-504(2004)·Zbl 1153.47305号 [63] 组合框,PL;弗吉尼亚州沃伊斯。,近端前向背向分裂信号恢复,多尺度模型仿真,4,4,1168-1200(2005)·Zbl 1179.94031号 [64] 组合,PL,Pesquet,JC。信号处理中的近距离分裂方法。In:科学与工程反问题的定点算法。纽约(NY):施普林格出版社;2011年,第185-212页·Zbl 1242.90160号 [65] Bauschke,HH;Combettes,PL.,hilbert空间中的凸分析和单调算子理论,408(2011),Springer·Zbl 1218.47001号 [66] Rockafellar,RT.,凸分析(2015),普林斯顿大学出版社 [67] Bauschke,HH;Combettes,PL.,hilbert空间中的凸分析和单调算子理论,2011(2017),Springer·Zbl 1218.47001号 [68] Pock,T,Cremers,D,Bischof,H等。最小化Mumford-Shah泛函的算法。In:IEEE第12届国际计算机视觉会议,2009年;IEEE;2009年,第1133-1140页。 [69] EY Sidky;约尔根森,JH;Pan,X.,《利用chambolle-pock算法在计算机断层扫描中重建图像的凸优化问题原型》,《物理医学生物学》,57,10,3065(2012) [70] 维特,S。;佩雷,G。;Dossal,C.,稳健稀疏分析正则化,IEEE Trans-Inform Theory,59,4,2001-2016(2013)·Zbl 1364.94172号 [71] 贝克,A。;Teboulle,M.,线性反问题的快速迭代收缩阈值算法,SIAM成像科学杂志,2,1,183-202(2009)·Zbl 1175.94009号 [72] 北卡罗来纳州帕里赫。;Boyd,SP.,近似算法,基础趋势优化,1,3127-239(2014) [73] JJ莫罗。,Décomposition orthogonale D'un espace hilbertien selon deux co nes mutuellement polaires,CR巴黎科学院,225,238-240(1962)·兹伯利0109.08105 [74] Tseng,P.,分裂算法在凸规划和变分不等式分解中的应用,SIAM J Control Optim,29,1,119-138(1991)·Zbl 0737.90048号 [75] Barvinok,AI.,距离几何和二次映射的凸性问题,离散计算几何,13,2,189-202(1995)·Zbl 0829.05025号 [76] Pataki,G.,关于半定规划中极值矩阵的秩和最优特征值的多重性,Math Oper Res,23,2,339-358(1998)·Zbl 0977.90051号 [77] Zhang,Y,Lu,Z。秩最小化的惩罚分解方法。神经信息处理系统的进展;2011年,第46-54页。 [78] YB.赵。,矩阵秩最小化的近似理论及其在二次方程中的应用,《线性代数应用》,437,1,77-93(2012)·Zbl 1242.65086号 [79] Yuan,G,Ghanem,B.半定秩最小化的最近交替方向法。In:AAAI;2016年,第2300-2308页。 [80] Burer,S。;Monteiro,RD,通过低秩因式分解求解半定规划的非线性规划算法,《数学程序》,95,2,329-357(2003)·兹比尔1030.900077 [81] Shah,S,Yadav,AK,Castillo,CD,et al.计算机视觉中半定规划的双凸松弛。参加:欧洲计算机视觉会议;施普林格;2016年,第717-735页。 [82] Wang、PW、Chang、WC、Kolter、JZ。混合方法:低秩半定规划的坐标下降法。预印arXiv:170600476;2017 [83] Yurtsever,A,Udell,M,Tropp,JA。草图决策:具有最优存储的凸低秩矩阵优化。预印arXiv:170206838;2017 [84] Halko,N。;马丁森,PG;日本特罗普。,《寻找随机结构:构造近似矩阵分解的概率算法》,SIAM Rev,53,2,217-288(2011)·Zbl 1269.65043号 [85] JA特罗普;Yurtsever,A。;Udell,M.,《低阶矩阵近似的实用草图绘制算法》,SIAM J matrix Anal Appl,38,4,1454-1485(2017)·Zbl 1379.65026号 [86] 埃卡特,C。;Young,G.,《一个矩阵与另一个低阶矩阵的近似》,《心理测量学》,1,3,211-218(1936)·JFM 62.1075.02标准 [87] Golub,生长激素;Van Loan,CF.,矩阵计算,3(2012),JHU出版社 [88] 新泽西州海姆。矩阵贴近问题及其应用。曼彻斯特大学数学系;1988年·Zbl 0681.65029号 [89] 勒霍克,RB;Sorensen,DC;Yang,C.,Arpack用户指南:用隐式重新启动的Arnoldi方法解决大规模特征值问题,6(1998),暹罗·Zbl 0901.65021号 [90] 安德森,E。;Bai,Z。;Bischof,C.,《Lapack用户指南》(1999),SIAM·Zbl 0755.65028号 [91] 何,B,袁,X。全变分图像复原原对偶算法的收敛性分析。融洽技巧,Citeser;2010 [92] Rockafellar,RT,Monotone操作符和近点算法,SIAM J Control Optim,14,5,877-898(1976)·Zbl 0358.90053号 [93] Bezanson,J。;Edelman,A。;Karpinski,S.,Julia:《数值计算的新方法》,SIAM Rev,59,1,65-98(2017)·Zbl 1356.68030号 [94] 劳森,CL;RJ Hanson;Kincaid,DR,Fortran使用的基本线性代数子程序,ACM Trans Math Softw(TOMS),5,3,308-323(1979)·Zbl 0412.65022号 [95] Anderson,E,Bai,Z,Dongarra,J,et al.拉帕克:用于高性能计算机的便携式线性代数库。In:1990年ACM/IEEE超级计算会议记录;IEEE计算机学会出版社;1990年,第2-11页。 [96] Legat,B,Dowson,O,Garcia,JD等。Mathoptinterface:数学优化问题的数据结构。预印arXiv:200203447。2020 [97] 邓宁,I。;哈切特,J。;Lubin,M.,Jump:数学优化建模语言,SIAM Rev,59,2,295-320(2017)·Zbl 1368.90002号 [98] Chistov,AL,Grigor’ev,DY.代数闭域理论中量词消去的复杂性。参加:计算机科学数学基础国际研讨会;施普林格;1984年,第17-31页·Zbl 0562.03015号 [99] 东南部卡里什;伦德尔,F。;Clausen,J.,用半定规划解决图的二分问题,INFORMS J Compute,12,3,177-191(2000)·Zbl 1040.90045号 [100] Borchers,B.,Sdplib 1.2,半定编程测试问题库,Optim Methods Soft,11,1-4,683-690(1999)·Zbl 0973.90522号 [101] Alfakih,AY;Khandani,A。;Wolkowicz,H.,通过半定规划求解欧氏距离矩阵完备问题,Comput Optim Appl,12,1-3,13-30(1999)·Zbl 1040.90537号 [102] 博伊德,S。;Vandenberghe,L.,《凸优化》(2004),剑桥大学出版社·Zbl 1058.90049号 [103] 因此,AMC;Ye,Y.,传感器网络定位的半定规划理论,数学程序,109,2-3,367-384(2007)·Zbl 1278.90482号 [104] Jaldén,J,Martin,C,Ottersten,B.线性系统检测的半定规划-最优条件和时空解码。收录于:《声学、语音和信号处理》,2003年。诉讼程序。(ICASSP’03)。2003年IEEE国际会议;第4卷;IEEE;2003年,第IV-9页。 [105] 贾尔登,J。;Ottersten,B.,半定弛豫检测器的分集阶,IEEE Trans-Inform Theory,54,4,1406-1422(2008)·Zbl 1328.94024号 [106] Verdü,S.,最佳多用户检测的计算复杂性,算法,4,1,303-312(1989)·Zbl 0684.68066号 [107] Dong,H.,通过多重自适应对角扰动松弛非凸二次函数,SIAM J Optim,26,31962-1985(2016)·Zbl 1348.90473号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。