李旭东;孙德芬;杜金川 凸组合二次规划的块对称高斯-赛德尔分解定理及其应用。 （英语） Zbl 1412.90086号 数学。程序。 175，编号1-2（A），395-418（2019）. 摘要：对于对称半正定线性方程组（mathcal{Q}{{x}}={{b}}}），其中（{x}}=（x_1，\ldots，x_s））被分为（s）块，用（s\ge2）证明了经典块对称高斯赛德尔（sGS）方法的每个循环都精确地解出了相关的二次规划（QP）问题，但添加了一个额外的最近项形式\（\ frac{1}{2}\Vert{{x}}-{x}^k\Vert_\mathcal{T}^2），其中\（\ mathcal}T}\）是与\（\ mathcal{Q}\）的sGS分解相关的对称正半定矩阵，\（{x}{k\）是前面的迭代。通过利用与优化的这种联系，我们能够用（x_1）中额外的可能非光滑项，即，（min\{p（x_1）+frac{1}{2}\langle{x}}，，，mathcal{Q}{x}{rangle-\langle}{b}}}}、，{x}}，来扩展求解凸复合QP（CCQP）的结果（我们称之为块sGS分解定理），其中，\（p（\cdot）\）是一个适当的闭凸函数。基于块sGS分解定理，我们扩展了经典的块sGS-方法来求解CCQP。此外，我们的扩展块sGS方法具有灵活性，允许在块sGS-循环的每个步骤中进行不精确的计算。同时，我们还可以加速不精确块sGS方法，使其在执行\（k）个循环后的迭代复杂度达到\（O（1/k^2）\）。作为基本构造块，块sGS分解定理在最近开发的各种算法中发挥了关键作用，例如用于线性约束多块凸组合圆锥规划（CCCP）的不精确半近似ALM/ADMM，以及用于多块CCCP的加速块坐标下降法。 引用于1审查引用于19文件 MSC公司： 90C06型 数学规划中的大尺度问题 90C20个 二次规划 90C25型 凸面编程 65层10 线性系统的迭代数值方法 关键词：凸复合二次规划;块对称高斯-赛德尔;舒尔补码;增广拉格朗日方法 软件：MSCRA_秩和;QSDPNAL公司 PDF格式BibTeX公司 XML格式引用 \textit{X.Li}等人，数学。程序。175，编号1--2（A），395--418（2019；Zbl 1412.90086） 全文： 内政部 arXiv公司 参考文献： [1] Axelsson，O.：迭代求解方法。剑桥大学出版社，剑桥（1994）·Zbl 0795.65014号 ·doi:10.1017/CBO9780511624100 [2] Bai，M.R.，Zhang，X.J.，Ni，G.Y.，Cui，C.F.：张量补全的自适应校正方法。SIAM J.成像科学。9, 1298-1323 (2016) ·Zbl 1456.90104号 ·doi:10.137/15M1048008 [3] Bai，S.，Qi，H.-D.：解决无线传感器网络定位及其他方面的翻转模糊性。数字信号处理。55, 85-97 (2016) ·doi:10.1016/j.dsp.2016.05.006 [4] Bank，R.E.，Dupont，T.F.，Ysertant，H.：基于层次的多重网格方法。数字数学52，427-458（1988）·Zbl 0645.65074号 ·doi:10.1007/BF01462238 [5] Beck，A.，Terameshvili，L.：关于块坐标下降型方法的收敛性。SIAM J.Optim公司。23, 2037-2060 (2013) ·Zbl 1297.90113号 ·数字对象标识代码：10.1137/120887679 [6] Bertsekas，D.P.：非线性规划，第二版。雅典娜科学，贝尔蒙特（1995）·Zbl 0935.90037号 [7] Bi，S.，Pan，S..，Sun，D.F.：噪声结构化低秩矩阵恢复的多级凸松弛方法，arXiv:1703.03898（2017）·Zbl 1452.90258号 [8] 丁，C.，齐，H.-D.：非线性降维中忠实欧氏距离表示的凸优化学习。数学。程序。164, 341-381 (2017) ·兹比尔1391.90472 ·doi:10.1007/s10107-016-1090-7 [9] Ding，C.，Qi，H.-D.：凸欧几里德距离嵌入用于协作定位和非直瞄缓解。计算。最佳方案。申请。66, 187-218 (2017) ·Zbl 1369.90120号 ·doi:10.1007/s10589-016-9858-5 [10] Chen，L.，Sun，D.F.，Toh，K.C.：一种高效的基于非精确对称高斯-赛德尔的优化ADMM，用于高维凸复合锥规划。数学。程序。161, 237-270 (2017) ·Zbl 1356.90105号 ·doi:10.1007/s10107-016-1007-5 [11] Fercoq，O.，Richtárik，P.：加速、平行和近端坐标下降。SIAM J.Optim公司。25, 1997-2023 (2015) ·Zbl 1327.65108号 ·数字对象标识代码：10.1137/130949993 [12] Fercoq，O.，Richtárik，P.：通过加速、平行和近端坐标下降实现高维优化。SIAM第28版，739-771（2016）·兹比尔1353.65053 ·doi:10.1137/16M1085905 [13] Ferreira，J.B.，Khoo，Y.，Singer，A.：稀疏图二次分配问题的半定规划方法，arXiv:1703.09339（2017）·Zbl 1415.90071号 [14] Freund，R.W.：对称但高度不确定线性系统的预处理，In:第15届imacs科学计算建模和应用数学世界大会论文集，德国柏林，pp.551-556（1997） [15] Greenbaum，A.：求解线性系统的迭代方法。SIAM，费城（1997）·Zbl 0883.65022号 ·doi:10.1137/1.9781611970937 [16] Grippo，L.，Sciandone，M.：凸约束下块非线性Gauss-Seidel方法的收敛性。操作。Res.Lett公司。26, 127-136 (2000) ·Zbl 0955.90128号 ·doi:10.1016/S0167-6377（99）00074-7 [17] Hackbusch，W.：大型稀疏方程组的迭代解。施普林格，纽约（1994）·Zbl 0789.65017号 ·doi:10.1007/978-1-4612-4288-8 [18] Han，D.，Sun，D.F.，Zhang，L.：凸组合规划的交替方向乘数法的线性速度收敛性，数学。操作。Res.（2017）。https://doi.org/10.1287/moor.2017.0875 ·Zbl 1440.90047号 [19] Jiang，K.F.，Sun，D.F.，Toh，K.C.：大规模线性约束凸SDP的不精确加速近似梯度法。SIAM J.Optim公司。1042-1064年2月22日（2012年）·Zbl 1401.90120号 ·数字对象标识代码：10.1137/10847081 [20] Kristian，B.，Sun，H.P.：凹凸鞍点问题的预处理Douglas-Rachford分裂方法。SIAM J.数字。分析。53, 421-444 (2015) ·Zbl 1314.65084号 ·doi:10.1137/140965028 [21] Kristian，B.，Sun，H.P.：电视和TGV正则化变分成像问题的预处理Douglas-Rachford算法。数学杂志。成像视觉。52, 317-344 (2015) ·Zbl 1343.94003号 ·doi:10.1007/s10851-015-0564-1 [22] Lam，X.Y.，Marron，J.S.，Sun，D.F.，Toh，K.C.：大规模扩展距离加权判别的快速算法，arXiv:1604.05473。《计算与图形统计杂志》（2016年出版） [23] Li，X.D.，Sun，D.F.，Toh，K.C.：QSDPNAL:凸二次半定规划的两阶段增广拉格朗日方法，arXiv:1512.08872（2015）·Zbl 1411.90213号 [24] Li，X.D.，Sun，D.F.，Toh，K.C.：基于Schur补码的凸二次锥规划和扩展的半近似ADMM。数学。程序。155, 333-373 (2016) ·兹比尔1342.90134 ·doi:10.1007/s10107-014-0850-5 [25] Li，X.D.：凸复合二次规划的两阶段增广拉格朗日方法，新加坡国立大学数学系博士论文（2015） [26] 罗志清，曾平：关于凸本质光滑极小化下降法的线性收敛性。SIAM J.控制优化。30, 408-425 (1992) ·兹标0756.90084 ·doi:10.1137/0330025 [27] 罗志清，曾平：可行下降法的误差界和收敛性分析：一种通用方法。安·Oper。第46号决议，第157-178号决议（1993年）·Zbl 0793.90076号 ·doi:10.1007/BF02096261 [28] Nesterov，Y.：坐标下降法在大规模优化问题上的效率，SIAM。J.优化。22, 341-362 (2012) ·Zbl 1257.90073号 [29] Nesterov，Y.，Stich，S.U.：加速坐标下降法在结构优化问题上的效率。SIAM J.Optim公司。27, 110-123 (2017) ·Zbl 1359.90073号 ·doi:10.1137/16M1060182 [30] Ortega，J.M.，Rheinboldt，W.C.：多元非线性方程的迭代解。SIAM，费城（2000）·兹比尔0949.65053 ·doi:10.1137/1.9780898719468 [31] Richtárik，P.，Takáć，M.：最小化复合函数的随机块坐标下降方法的迭代复杂性。数学。程序。144, 1-38 (2014) ·Zbl 1301.65051号 ·doi:10.1007/s10107-012-0614-z [32] Rockafellar，R.T.：凸分析。普林斯顿大学出版社，普林斯顿（1970）·Zbl 0193.18401号 ·doi:10.1515/9781400873173 [33] Robinson，S.M.：多面体多函数的一些连续性。数学。程序。研究14，206-214（1981）·Zbl 0449.90090号 ·doi:10.1007/BFb0120929 [34] Sadd，Y.：稀疏线性系统的迭代方法。SIAM，费城（2003）·Zbl 1031.65046号 ·数字对象标识代码：10.1137/1.9780898718003 [35] Schmidt，M.，Le Roux，N.，Bach，F.：凸优化的不精确近端梯度方法的收敛速度。神经信息处理系统进展，第1458-1466页（2011年） [36] Sun，D.F.，Toh，K.C.，Yang，L.Q.：最小二乘半定规划的一种有效的非精确ABCD方法。SIAM J.Optim公司。26, 1072-1100 (2016) ·兹比尔1346.90658 ·doi:10.1137/15M1021799 [37] Sun，D.F.，Toh，K.-C.，Yang，L.Q.：具有4类约束的圆锥规划的收敛的3块半近似交替方向乘子方法。SIAM J.Optim公司。25, 882-915 (2015) ·Zbl 1328.90083号 ·数字对象标识代码：10.1137/140964357 [38] Sun，J.：关于单变分片量子规划，西雅图华盛顿大学数学系博士论文（1986） [39] Tappenden，R.、Richtárik，R.和Gondzio，J.：不精确坐标下降：复杂性和预处理。J.优化。理论应用。170, 144-176 (2016) ·Zbl 1350.65062号 ·doi:10.1007/s10957-016-0867-4 [40] Tseng，P.：不可微极小化的块坐标下降法的收敛性。J.优化。理论应用。109, 475-494 (2001) ·Zbl 1006.65062号 ·doi:10.1023/A:1017501703105 [41] Tseng，P.，Yun，S.：非光滑可分离最小化的坐标梯度下降方法。数学。程序。125, 387-423 (2010) ·Zbl 1166.90016号 ·doi:10.1007/s10107-010-0394-2 [42] Varga，R.S.：矩阵迭代分析。柏林施普林格出版社（2009）·Zbl 1216.65042号 [43] Wen，B.，Chen，X.，Pong，T.K.：一类非凸非光滑最小化问题的带外推的近似梯度算法的线性收敛性。SIAM J.Optim公司。27, 124-145 (2017) ·Zbl 1359.90138号 ·doi:10.1137/16M1055323 [44] Xiao，L.，Lu，Z.：关于随机区组坐标下降法的复杂性分析。数学。程序。152, 615-642 (2015) ·Zbl 1321.65100号 ·doi:10.1007/s10107-014-0800-2 [45] Young，D.M.：关于求解大型线性系统的加速SSOR方法。高级数学。23, 215-217 (1997) ·兹比尔0356.65027 ·doi:10.1016/S0001-8708（77）80029-7 [46] 张，X.，Xu，C.，张，Y.，Zhu，T.，Cheng，L.：观测值严重损坏的多元回归：稳健方法及其应用，arXiv:1701.02892（2017） [47] Zhou，Z.R.，So，A.M.-C.：结构化凸优化问题误差界的统一方法。数学。程序。165, 689-728 (2017) ·Zbl 1380.65109号 ·doi:10.1007/s10107-016-1100-9 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。