×
姜顺华;Natura、Bento;欧姆里·温斯坦

一种用于平方和优化的快速内点方法。 （英语） Zbl 07742472号

算法 85，编号9，2843-2884（2023）.
摘要：我们提出了一种用于优化平方和（SOS）多项式的更快的内点方法，SOS多项式是多项式优化的中心工具，并在Lasserre层次中捕获凸规划。设（p=sum_iq^2_i）是（2d）次的（n）变量SOS多项式。用\（L:=\begin{pmatrix}n+d\d\end{pmatricx}）和\（U:=\begin{pmmatrix}n+2d\2d\end}pmatrix}\）表示分别存在于其中的向量空间的维数，我们的算法在时间\（{\tilde{O}}（LU^{1.87}）\）上运行。这比目前最先进的SOS和半定规划求解器要快得多，它们实现了运行时（{瓦尔德{O}}（L^{0.5}\min\{U^{2.37}，L^{4.24}）。我们算法的核心是一个动态数据结构，用于在多项式插值基，它有效地扩展到多元SOS优化，并要求保持对低阶扰动的谱近似元素方面(哈达玛)产品这是主要的挑战，也是与最近使用反向维护的IPM突破的背离，在反向维护中，松弛矩阵的低秩更新很容易暗示Hessian矩阵也是如此。

MSC公司：

68瓦xx 计算机科学中的算法
05Cxx号 图论

关键词：

内点法;平方和优化;动态矩阵逆;凸优化
PDF格式BibTeX公司 XML格式引用
\textit{S.Jiang}等人，Algorithmica 85，No.9，2843--2884（2023；Zbl 07742472）
全文： DOI程序 arXiv公司 链接

参考文献：

[1] Alman，J.，Williams，V.V.：一种精细的激光方法和更快的矩阵乘法。在：《2021 ACM-SIAM离散算法研讨会论文集》（SODA），第522-539页。SIAM（2021年）
[2] 巴林格，B。；Blekherman，G。；科恩，H。；Giansiracusa，N。；Kelly，E。；Schürmann，A.，球面上能量最小化点配置的实验研究，实验数学。，18, 3, 257-283 (2009) ·Zbl 1185.68771号 ·doi:10.1080/10586458.2009.10129052
[3] Bos，L。；De Marchi，S。；Sommariva，A。；Vianello，M.，《通过数值线性代数计算多元Fekete和Leja点》，SIAM J.Numer。分析。，48, 5, 1984-1999 (2010) ·Zbl 1221.41005号 ·doi:10.1137/090779024
[4] 巴拉克，B。；霍普金斯，SB；JA Kelner；科塔里，PK；莫伊特拉，A。；Potechin，A.，“人为集团问题的近似紧致平方和下限”，SIAM J.Compute。，48, 2, 687-735 (2019) ·Zbl 1421.68056号 ·doi:10.1137/17M1138236
[5] Bläser，M.：快速矩阵乘法。摘自：《计算理论》，第1-60页（2013年）
[6] Blekherman，G。；宾夕法尼亚州帕里罗；Thomas，RR，《半定优化与凸代数几何》（2012），SIAM·Zbl 1260.90006号 ·doi:10.1137/1.9781611972290
[7] 巴拉克。，B.拉加文德拉。，P.，Steurer，D.：通过全局相关性舍入半定规划层次。2011年IEEE第52届计算机科学基础年会（FOCS），第472-481页。IEEE（2011）·Zbl 1292.90226号
[8] Bachoc，C.，Vallenton，F.：半定规划中亲吻数的新上界。技术报告，《美国数学学会杂志》（2006）·Zbl 1223.90039号
[9] Cohen，M.B.，Lee，Y.T.，Song，Z.：在当前矩阵乘法时间内求解线性程序。在：第51届美国计算机学会计算理论年度研讨会（STOC）论文集（2019）·Zbl 1437.90097号
[10] 艾森布兰德，F。；Grandoni，F.，关于固定参数集团和支配集的复杂性，Theor。计算。科学。，326, 1-3, 57-67 (2004) ·Zbl 1071.68030号 ·doi:10.1016/j.tcs.2004.05.009
[11] B.加达。；Marecek，J。；M、 M.，作为多项式优化问题的最优潮流，IEEE Trans。电力系统。，31, 539-546 (2016) ·doi:10.1109/TPWRS.2015.2390037
[12] Gall，F.L.，Urrutia，F.：使用铜-winograd张量的幂改进矩形矩阵乘法。摘自：2018年ACM-SIAM离散算法研讨会论文集，第1029-1046页。SIAM（2018）·Zbl 1406.65029号
[13] Heß，R。；亨利安，D。；激光，J-B；Pham，TS，多项式横坐标的半定逼近，SIAM J.控制优化。，54, 3, 1633-1656 (2016) ·Zbl 1351.90127号 ·doi:10.1137/15M1033188
[14] Huang，B.，Jiang，S.，Song，Z.，Tao，R.，Zhang，R.：更快地解决sdp：一个健壮的ipm框架和高效的实施（2021）
[15] Hopkins，S.B.、Kothari，P.K.、Potechin，A.、Raghavendra，P.、Schramm，T.、Steurer，D.：平方和对检测隐藏结构的作用。摘自：第58届IEEE计算机科学基础年会，（FOCS），第720-731页。IEEE计算机学会（2017）
[16] 霍普金斯S.B.、李J.：混合模型、稳健性和平方和证明。摘自：第50届ACM SIGACT计算机理论研讨会论文集，（STOC），第1021-1034页。ACM（2018）·Zbl 1428.68240号
[17] Jiang，H.，Kathuria，T.，Lee，Y.T.，Padmanabhan，S.，Song，Z.：半定规划的快速内点方法。2020年IEEE第61届计算机科学基础年会（FOCS），第910-918页。IEEE（2020）
[18] Jiang，S.、Man，Y.、Song，Z.、Yu，Z.和Zhuo，D.：通过kronecker草图快速绘制神经切线核（2021）。arXiv预打印arXiv:2112.02446，AAAI'22
[19] Karmarkar，N.：线性规划的一种新的多项式时间算法。摘自：第16届ACM计算机理论研讨会（STOC）论文集，第302-311页（1984）·Zbl 0557.90065号
[20] Lasserre，JB，《多项式和半代数优化导论》。《剑桥应用数学课本》（2015），剑桥大学出版社·Zbl 1320.90003号
[21] Laurent，M.：多项式上的平方和、矩矩阵和优化。IMA数学及其应用丛书第149卷，第155-270页。施普林格，德国（2009）·Zbl 1163.13021号
[22] 勒加尔：张量的幂和快速矩阵乘法。摘自：第39届符号与代数计算国际研讨会论文集，第296-303页（2014）·Zbl 1325.65061号
[23] Lee，Y.T.，Sidford，A.：线性规划的寻路方法：在迭代中求解线性规划和最大流的更快算法。2014年IEEE第55届计算机科学基础年会（FOCS），第424-433页。IEEE（2014）
[24] Lee，Y.T.，Song，Z.，Zhang，Q.：解决当前矩阵乘法时间内的经验风险最小化问题。在：学习理论会议（COLT），第2140-2157页。PMLR（2019年）
[25] Nesterov，Y.：平方函数系统和优化问题。摘自：《高性能优化》，第405-440页。斯普林格（2000）·兹比尔0958.90090
[26] Nesterov，Y.，Nemirovski，A.：凸规划中的内点多项式算法。In:暹罗应用数学研究（1987）
[27] Pan，VY，《结构化矩阵和多项式》（2001年），波士顿：Birkhäuser出版社，波士顿·Zbl 0996.65028号 ·doi:10.1007/978-1-4612-0129-8
[28] Papp，D.，有理函数回归的最优设计，美国统计协会，107，497，400-411（2012）·Zbl 1261.62072号 ·doi:10.1080/01621459.2012.656035
[29] Parrilo，P.，《平方和：理论与应用：AMS短期课程，平方和：原理与应用》，2019年1月14日至15日，马里兰州巴尔的摩（2020），普罗维登斯：美国数学学会，普罗维登·Zbl 1451.11010号
[30] M.普蒂纳。；Vasilescu，F-H，半代数集上的正多项式，Comptes Rendus de l'Académie des Sciences-Series I-Mathematics，328，7，585-589（1999）·Zbl 0973.14031号
[31] 帕普，D。；Yildiz，S.，无半定规划的平方和优化，SIAM J.Optim。，29, 1, 822-851 (2019) ·Zbl 1412.90114号 ·doi:10.1137/17M1160124
[32] 卢武铉，T。；Dumitrescu，B。；Vandenberghe，L.，《通过三角和平方优化进行多维FIR滤波器设计》，J.Sel。顶部。信号处理。，1, 4, 641-650 (2007) ·doi:10.1109/JSTSP.2007.910261
[33] Renegar，J.，《凸优化中内点方法的数学观点》（2001），工业和应用数学学会·Zbl 0986.90075号 ·doi:10.1137/1.9780898718812
[34] Strang，G.，Karmarkar算法及其在应用数学中的地位，数学。智力。，9, 2, 4-10 (1987) ·Zbl 0622.90052号 ·doi:10.1007/BF03025891
[35] Sommariva，A。；Vianello，M.，通过Vandermonde矩阵的QR分解计算近似Fekete点，计算。数学。申请。，57, 8, 1324-1336 (2009) ·Zbl 1186.65028号
[36] Song，Z.，Yang，S.，Zhang，R.：预处理是否有助于训练过参数化神经网络？In:神经信息处理系统进展，第34卷（2021）
[37] Song，Z.，Zhang，L.，Zhang R.：在次二次时间内训练多层参数化神经网络（2021）。arXiv预打印arXiv:2112.07628
[38] Tan，N.：关于Lasserre SDP层级的力量。加州大学伯克利分校EECS系博士论文（2015）
[39] Vaidya，P.M.：使用快速矩阵乘法加速线性规划。摘自：第30届计算机科学基础年会（FOCS），第332-337页。IEEE（1989）
[40] van den Brand，J.，Peng，B.，Song，Z.，Weinstein，O.：在近线性时间内训练（超参数化）神经网络。收录于：第12届理论计算机科学创新大会（ITCS 2021），第185卷，第63:1-63:15页（2021）
[41] Yinyu，Y。；迈克尔·J·T。；Shinji，M.，An（{O}（\sqrt{n}{L}）-迭代齐次和自对偶线性规划算法，数学。操作。决议，19，1，53-67（1994）·Zbl 0799.90087号 ·doi:10.1287/门19.1.53
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。