×

DSOS和SDSOS优化:平方和和和半定优化的更容易处理的替代方案。 (英语) Zbl 1465.90061号

摘要:近年来,优化理论受到了平方和优化(SOS)的极大影响。然而,这种技术对大规模半定程序的依赖限制了它可以应用的问题的规模。在本文中,我们介绍对角占优平方和(DSOS)和标度对角占优平方和(SDSOS)优化作为线性规划和基于二阶锥规划的平方和优化的替代方案,允许人们在计算时间和解决方案质量之间进行权衡。这些是平方和多项式的某些子集(或半正定矩阵的等价子集)上的优化问题,在可伸缩性受到限制的半定规划的一般应用中可能会有兴趣。我们证明了SOS优化中依赖于实代数几何结果的一些基本定理对于DSOS和SDSOS优化仍然有效。此外,我们通过多项式优化、统计学和机器学习、导数定价和控制理论等不同应用领域的数值实验表明,在精度上进行合理权衡后,我们可以处理目前远远超出传统平方和方法处理范围的问题。最后,我们回顾了弥补DSOS/SDSOS方法和SOS方法之间差距的最新技术,这些技术以额外的运行时间为代价。本文的补充材料介绍了一个附带的用于DSOS和SDSOS优化的MATLAB包。

MSC公司:

90C25型 凸面编程
90C22型 半定规划
65千5 数值数学规划方法
12E05型 一般域中的多项式(不可约性等)
93C85号 控制理论中的自动化系统(机器人等)
第14页 半代数集与相关空间
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] A.A.Ahmadi、S.Dash和G.Hall,基于列生成的半正定矩阵结构子集优化,离散优化。,24(2017),第129-151页·Zbl 1387.90179号
[2] A.A.Ahmadi和G.Hall,线性二阶锥规划平方和基追踪,《离散数学中的代数和几何方法》,Contemp。数学。阿默尔685。数学。Soc.,普罗维登斯,RI,2017年,第27-53页·Zbl 1393.90081号
[3] A.A.Ahmadi和G.Hall,基于全局正性证明的多项式优化收敛层次的构造,数学。操作。Res.,出现;预印本版本可在·Zbl 1437.90127号
[4] A.A.Ahmadi和A.Majumdar,DSOS和SDSOS优化:基于LP和SOCP的平方和优化替代方案,《第48届信息科学与系统年会(CISS)会议记录》,IEEE,新泽西州皮斯卡塔韦,2014年,第1-5页。
[5] A.A.Ahmadi和A.Majumdar,多项式优化在运筹学和实时决策中的一些应用,最佳。莱特。,10(2016),第709-729页·Zbl 1345.90085号
[6] A.A.Ahmadi和A.Majumdar,对“DSOS和SDSOS层次结构全球趋同的反例”的回应预印本,2017年。
[7] F.Alizadeh和D.Goldfarb,二阶圆锥编程,数学。程序。序列号。B、 95(2003),第3-51页·Zbl 1153.90522号
[8] E.阿廷,在Quadrate中的Uüber die Zerlegung确定性Funktionen,汉堡。阿布。,5(1927年),第100-115页·JFM 52.0122.01号
[9] C.Bachoc和F.Vallenton,半定规划中亲吻数的新上界,J.Amer。数学。Soc.,21(2008),第909-924页·Zbl 1223.90039号
[10] X.Bai和K.Scheinberg,非凸优化的交替方向方法及其在二阶最小二乘和风险平价投资组合选择中的应用,电子版,《在线优化》,2015年。
[11] G.Barker和D.Carlson,对角占优矩阵的锥《太平洋数学杂志》。,57(1975),第15-32页·Zbl 0283.52005号
[12] A.Ben-Tal和A.Nemirovski,现代凸优化讲座:分析、算法和工程应用,MOS-SIAM系列。最佳方案。2,SIAM,费城,2001年·Zbl 0986.90032号
[13] D.P.Bertsekas和J.N.Tsitsiklis,概率导论《雅典娜科学》,马萨诸塞州贝尔蒙特,2002年。
[14] D.Bertsimas、R.M.Freund和X.A.Sun,求解无约束多项式优化问题SOS松弛的一阶加速方法,最佳。方法软件。,28(2013),第424-441页·Zbl 1273.90198号
[15] D.Bertsimas、D.A.Iancu和P.A.Parrilo,多级自适应优化的近最优策略层次,IEEE传输。自动化。对照,56(2011),第2809-2824页·Zbl 1368.93336号
[16] D.Bertsimas和I.Popescu,期权与股票价格的关系:凸优化方法,操作。研究,50(2002),第358-374页·Zbl 1163.91382号
[17] D.Bertsimas和I.Popescu,概率论中的最优不等式:一种凸优化方法、SIAM J.Optim.、。,15(2005),第780-804页·Zbl 1077.60020号
[18] G.Blekherman,P.A.Parrilo和R.R.Thomas编辑。,半定优化与凸代数几何,MOS-SIAM系列。最佳方案。13,SIAM,费城,2013年·Zbl 1260.90006号
[19] E.G.Boman、D.Chen、O.Parekh和S.Toledo,关于因子宽度和对称H-矩阵,线性代数应用。,405(2005),第239-248页·Zbl 1098.15014号
[20] I.M.Bomze和E.De Klerk,用线性、半定和共正规划求解标准二次优化问题、J.Global Optim.、。,24(2002),第163-185页·Zbl 1047.90038号
[21] M.S.Bostanabad、J.Gouveia和T.K.Pong,通过标度对角占优矩阵的锥对完全正锥的内逼近,预印本,2018年。
[22] P.P.Boyle和X.S.Lin,基于多种资产的或有债权的约束,J.金融经济学。,46(1997),第383-400页。
[23] S.Burer,同位编程,《半定、二次曲线和多项式优化手册》,Springer,纽约,2012年,第201-218页·Zbl 1334.90098号
[24] M.-D.Choi、T.-Y.Lam和B.Reznick,甚至对称六分仪,数学。Z.,195(1987),第559-580页·Zbl 0654.10024号
[26] A.d'Aspremont、L.E.Ghaoui、M.I.Jordan和G.R.Lanckriet,基于半定规划的稀疏PCA直接公式SIAM Rev.,49(2007),第434-448页·邮编1128.90050
[27] E.de Klerk和D.V.Pasechnik,用共正规划逼近图的稳定数、SIAM J.Optim.、。,12(2002),第875-892页·兹比尔1035.90058
[28] E.De Klerk和R.Sotirov,利用二次指派问题半定规划松弛中的群对称性,数学。程序。,122(2010年),第225-246页·Zbl 1184.90120号
[29] J.A.De Loera、J.Lee、P.N.Malkin和S.Margulies,Hilbert的Nullstellensatz及其组合不可行证明算法,《第二十届符号和代数计算国际研讨会论文集》,ACM,纽约,2008年,第197-206页·兹比尔1297.05229
[30] J.A.De Loera、J.Lee、P.N.Malkin和S.Margulies,利用Hilbert的Nullstellensatz计算组合问题的不可行证明,J.符号计算。,46(2011),第1260-1283页·Zbl 1247.13026号
[31] G.Dias和L.Liberti,距离几何中的对角占优编程,载于《国际组合优化研讨会论文集》,斯普林格,纽约,2016年,第225-236页·Zbl 1451.51007号
[32] L.Ding和L.H.Lim,高阶锥规划,预印本,2018年;2016年芝加哥大学硕士论文。
[33] A.C.Doherty、P.A.Parrilo和F.M.Spedalieri,区分可分离态和纠缠态,物理。修订稿。,88 (2002), 187904.
[34] A.Domahidi、E.Chu和S.Boyd,ECOS:嵌入式系统的SOCP求解器,《IEEE欧洲控制会议论文集》,IEEE,新泽西州皮斯卡塔韦,2013年,第3071-3076页。
[35] M.Du¨r,同位编程–调查《优化及其在工程中的应用的最新进展》,Springer,纽约,2010年,第3-20页。
[36] H.Fawzi,用二阶锥表示半正定锥,预印本,2016年。
[37] M.R.Garey和D.S.Johnson,计算机和不可解性W.H.Freeman,加利福尼亚州旧金山,1979年·Zbl 0411.68039号
[38] K.Gatermann和P.A.Parrilo,对称群、半定程序和平方和J.Pure应用。《代数》,192(2004),第95-128页·兹伯利1108.13021
[39] S.A.Gershgorin,Uber die Abgrenzung der Eigenwerte einer矩阵《科学院学报》。《科学数学与数学》,1931年,第6期,第749-754页·Zbl 0003.00102号
[40] J.Gouveia、P.A.Parrilo和R.R.Thomas,多项式理想的Theta体、SIAM J.Optim.、。,20(2010),第2097-2118页·Zbl 1213.90190号
[41] M.R.Gupta、A.Cotter、J.Pfeifer、K.Voevodski、K.Canini、A.Mangylov、W.Moczydlowski和A.Van Esbroeck,单调校准插值查表,J.马赫。学习。研究,17(2016),第1-47页·Zbl 1367.68225号
[42] L.Hannah和D.B.Dunson,具有自适应划分的多元凸回归,J.马赫。学习。研究,14(2013),第3261-3294页·Zbl 1318.62225号
[43] L.A.Hannah和D.B.Dunson,凸回归的集成方法及其在基于几何规划的电路设计中的应用,预印本,2012年。
[44] J.Harrison,用平方和检验非线性实公式,摘自《高阶逻辑中的定理证明》,Springer,纽约,2007年,第102-118页·Zbl 1144.68357号
[45] D.Henrion、J.B.Lasserre和C.Savorgnan,基本半代数集的近似体积与积分SIAM Rev.,51(2009),第722-743页·Zbl 1179.14037号
[46] D.Henrion和J.Malick,二次曲线优化中的投影方法,《半定、二次曲线和多项式优化手册》,Springer,纽约,2012年,第565-600页·Zbl 1334.90105号
[47] D.希尔伯特,Uéber die Darstellung Definer Formen als Summe von Formenquadren公司,数学。《年鉴》,32(1888),第342-350页·JFM 20.0198.02型
[48] C.Hillar和L.-H.Lim,大多数张量问题都是NP-Hard,预印本,2009年。
[49] M.Huneault和F.Galiana,最优潮流文献综述,IEEE传输。《电力系统》,第6期(1991年),第762-770页。
[50] Z.Jarvis-Wloszek、R.Feeley、W.Tan、K.Sun和A.Packard,平方和编程的一些控件应用,《第42届IEEE决策与控制会议记录》,第5卷,IEEE,新泽西州皮斯卡塔韦,2003年,第4676-4681页。
[51] 哈利勒,非线性系统第三版,普伦蒂斯·霍尔,恩格尔伍德悬崖,新泽西州,2002年·Zbl 1003.34002号
[52] J.-L.克里文,Anneaux pre⁄ordonne⁄s公司《期刊分析》。数学。,12(1964年),第307-326页·Zbl 0134.03902号
[53] R.Laraki和J.B.Lasserre,min-max问题和对策的半定规划,数学。程序。,131(2012),第305-332页·兹比尔1242.90158
[54] J.B.Lasserre,多项式全局优化与矩问题、SIAM J.Optim.、。,11(2001),第796-817页·Zbl 1010.90061号
[55] J.B.Lasserre,矩、正多项式及其应用,Imp.Coll.公司。按Optim。序列号。1,帝国理工学院出版社,伦敦,2010年·Zbl 1211.90007号
[56] J.B.Lasserre,多项式和半代数优化简介,剑桥文本应用。数学。52,剑桥大学出版社,英国剑桥,2015年·Zbl 1320.90003号
[57] J.B.Lasserre、K.-C.Toh和S.Yang,多项式优化的有界度SOS层次,EURO J.计算。最佳。,5(2017年),第87-117页·Zbl 1368.90132号
[58] M.Laurent,平方和、矩矩阵和多项式优化《代数几何的新兴应用》,Springer,纽约,2009年,第157-270页·Zbl 1163.13021号
[59] M.Laurent、M.E.Nagy和A.Varvitsiotis,秩约束下半正定矩阵完备问题的复杂性,离散几何。最佳。,69(2013),第105-120页·Zbl 1272.68140号
[60] X.Li、D.Sun和K.-C.Toh,QSDPNAL:凸二次半定规划的两阶段增广拉格朗日方法,预印本,2015年。
[61] L.Liberti、C.Lavor、N.Maculan和A.Mucherino,欧几里德距离几何及其应用SIAM Rev.,56(2014),第3-69页·Zbl 1292.51010号
[62] M.S.Lobo、L.Vandenberghe、S.Boyd和H.Lebret,二阶锥规划的应用,线性代数应用。,284(1998),第193-228页·Zbl 0946.90050号
[63] L.Lovaász,关于图的Shannon容量,IEEE传输。通知。《理论》,25(1979),第1-7页·Zbl 0395.94021号
[64] A.Majumdar、A.Ahmadi和R.Tedrake,使用DSOS和SDSOS编程控制和验证高维系统,《IEEE决策与控制会议记录》,IEEE,新泽西州皮斯卡塔韦,2014年,第394-401页。
[65] I.R.Manchester、M.M.Tobenkin、M.Levashov和R.Tedrake,步行机器人混合极限环的吸引域,程序。国际会计师联合会,44(2011),第5801-5806页。
[66] J.Mattingley和S.Boyd,信号处理中的实时凸优化IEEE信号处理。Mag.,27(2010),第50-61页。
[67] J.Mattingley和S.Boyd,CVXGEN:一种用于嵌入式凸优化的代码生成器,最佳。工程,13(2012),第1-27页·兹比尔1293.65095
[68] A.梅格利茨基,系统多项式优化工具(SPOT), 2010.
[69] A.Mosek,MOSEK优化软件, .
[70] T.S.Motzkin,算术几何不等式《不平等:俄亥俄州莱特-帕特森空军基地研讨会论文集》,1965年8月19日至27日),学术出版社,纽约,1967年,第205-224页。
[71] K.G.Murty和S.N.Kabadi,二次规划和非线性规划中的几个NP-完全问题,数学。程序。,39(1987),第117-129页·Zbl 0637.90078号
[72] Y.内斯特罗夫,平方函数系统与优化问题《高性能优化》,应用。最佳方案。33,Kluwer学术出版社,多德雷赫特,2000年,第405-440页·Zbl 0958.90090号
[73] J.Nie、J.Demmel和B.Sturmfels,通过梯度理想上的平方和最小化多项式,数学。程序。,106(2006),第587-606页·兹比尔1134.90032
[74] J.Nie和M.Schweighofer,论普蒂纳的正定论的复杂性《复杂性杂志》,23(2007),第135-150页·Zbl 1143.13028号
[75] J.Nie和L.Wang,大规模多项式优化中SDP松弛的正则化方法、SIAM J.Optim.、。,22(2012),第408-428页·兹比尔1250.65080
[76] D.Papp和S.Y\ild\iz,无半定规划的平方和优化,预印本,2017年。
[77] P.Parrilo和A.Jadbabaie,用平方和逼近联合谱半径,线性代数应用。,428(2008),第2385-2402页·Zbl 1151.65032号
[78] P.A.Parrilo,鲁棒性和优化中的结构半定程序和半代数几何方法2000年,加利福尼亚州帕萨迪纳加利福尼亚理工学院博士论文。
[79] P.A.Parrilo,半代数问题的半定规划松弛,数学。程序。,96(2003),第293-320页·Zbl 1043.14018号
[80] P.A.Parrilo,多项式对策与平方和优化,《第45届IEEE决策与控制会议记录》,2006年,第2855-2860页。
[81] P.A.Parrilo和B.Sturmfels,多项式函数最小化,《算法和定量实代数几何》,DIMACS Ser。离散数学。西奥。计算。科学。60岁,阿默尔。数学。Soc.,普罗维登斯,RI,2003年,第83-99页·Zbl 1099.13516号
[82] F.Percenter和P.Parrilo,部分面部缩小:通过PSD锥体近似简化等效SDP,数学。程序。,(2014),第1-54页·Zbl 1405.90098号
[83] G.Poílya,尤伯阳性Darstellung von PolynomenVierteljschr。Naturforsch公司。格式。祖里奇,73(1928),第141-145页·JFM 54.0138.01号
[84] I.波佩斯库,凸分布类最优矩界的半定规划方法,数学。操作。研究,30(2005),第632-657页·Zbl 1082.60011号
[85] M.Putinar,紧半代数集上的正多项式印第安纳大学数学系。J.,42(1993),第969-984页·Zbl 0796.12002号
[86] A.Raymond、M.Singh和R.R.Thomas,旗代数平方多项式Turan和的对称性阿尔盖布。梳。,1(2018),第249-274页·Zbl 1388.05186号
[87] B.雷兹尼克,从算术几何不等式导出的形式,数学。《年鉴》,283(1989),第431-464页·Zbl 0637.10015号
[88] B.雷兹尼克,希尔伯特第17个问题的一些具体方面《实代数几何与有序结构》(Baton Rouge,LA,1996)。数学。阿默尔253号。《数学社会》,罗得岛州普罗维登斯,2000年,第251-272页·Zbl 0972.11021号
[89] B.雷兹尼克,搅拌机,《正性概念与多项式几何》,施普林格,纽约,2011年,第345-373页·Zbl 1281.11031号
[90] C.Riener、T.Theobald、L.J.Andreán和J.B.Lasserre,利用SDP松弛中的对称性进行多项式优化,数学。操作。研究,38(2013),第122-141页·Zbl 1291.90167号
[91] R.M.Robinson,一些非实多项式平方和的定多项式,摘自《代数与逻辑精选问题集》(A.I.Mal(‘)cev)Izdat记忆集)。“Nauka”Sibirsk。奥特尔。,新西伯利亚,1973年,第264-282页(俄语)·Zbl 0277.10019号
[92] M.Roozbehani,安全关键软件系统分析与实现中Lyapunov不变量的优化2008年,马萨诸塞州剑桥市麻省理工学院博士论文。
[93] N.V.Sahinidis,BARON:通用全局优化软件包、J.Global Optim.、。,8(1996),第201-205页·Zbl 0856.90104号
[94] E.萨尔加多,交流最优潮流的快速松弛法,硕士论文,Eácole Polytechnique,Palaiseau,法国,2017年。
[95] E.Salgado、A.Scozzari、F.Tardella和L.Liberti,带发电机选择的交流最优潮流,载于《第五届国际组合优化研讨会论文集》,《计算机讲义》。科学。10856,施普林格,查姆,2018年,第364-375页·Zbl 1403.90647号
[96] N.Z.绍尔,多项式函数的一类全局最小界《控制论》,第23卷(1987年),第731-734页(基贝内提卡俄语原文翻译,1987年,第6期,第9-11页)·兹比尔0648.90058
[97] G.斯坦格尔,半代数几何中的一个Nullstellensz和一个Positivstellensz,数学。《年鉴》,207(1974),第87-97页·Zbl 0253.14001号
[98] J.F.Sturm,使用用于对称锥优化的MATLAB工具箱SeDuMi 1.02,最佳。方法软件。,11(1999),第625-653页·Zbl 0973.90526号
[99] R.Tae、B.Dumitrescu和L.Vandenberghe,基于三角平方和优化的多维FIR滤波器设计,美国电气与电子工程师协会J.Sel。主题信号处理。,1(2007年),第641-650页。
[100] U.Topcu、A.Packard、P.Seiler和G.Balas,稳健的吸引区域估计,IEEE传输。自动化。控制,55(2010),第137-142页·Zbl 1368.93510号
[101] F.瓦列宁,半定程序中的对称性,线性代数应用。,430(2009),第360-369页·Zbl 1165.90017号
[102] L.Vandenberghe和S.Boyd,半定规划SIAM Rev.,38(1996),第49-95页·Zbl 0845.65023号
[103] L.Yang、D.Sun和K.-C.Toh,SDPNAL+:求解非负约束半定规划的优化半光滑Newton-CG增广拉格朗日方法,数学。程序。计算。,7(2015),第331-366页·Zbl 1321.90085号
[104] X.-Y.Zhao、D.Sun和K.-C.Toh,半定规划的Newton-CG增广拉格朗日方法、SIAM J.Optim.、。,20(2010),第1737-1765页·Zbl 1213.90175号
[105] Y.Zheng、G.Fantuzzi和A.Papachristodoulou,利用部分正交性实现平方和程序的快速ADMM,预印本,2017年·Zbl 1482.90140号
[106] H.Zou、T.Hastie和R.Tibshirani,稀疏主成分分析,J.计算。图表。统计人员。,15(2006年),第265-286页。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。