刘欣；Wen，Zaiwen先生；张茵 对称低秩乘积矩阵逼近的一种有效Gauss-Newton算法。 （英语） Zbl 1321.65060号 SIAM J.Optim公司。 25，第3期，1571-1608（2015）. 摘要：我们导出并研究了计算对称低秩乘积（XX^{T}}）的Gauss-Newton方法，其中（X在{mathbb{R}}^{n次k}中）对于（k<n），是最接近于Frobenius范数中给定对称矩阵（a在{mathbb{R{}}^n次n}）。当\（A=B^{{T}}B\）（或\（BB^{T}））时，这个问题本质上简化为寻找\（B\）的截断奇异值分解。我们的Gauss-Newton方法具有特别简单的形式，在（k\ll-n）时与梯度方法具有相同的迭代复杂度顺序，但在广泛的问题上可以显著更快。本文证明了该算法的全局收敛性和Q-线性收敛速度，并对各种测试问题进行了数值实验，包括最近活跃的矩阵补全和稳健主成分分析领域的测试问题。数值结果表明，与Krylov子空间方法相比，在不需要高精度解的适当应用问题上，该算法能够提供相当大的速度优势。此外，该算法比Krylov子空间方法具有更高的并发度，从而在现代多核计算机上提供了更好的可扩展性。 引用于15文件 MSC公司： 65层20 超定系统伪逆的数值解 15A83号 矩阵完成问题 65层10 线性系统的迭代数值方法 62华氏35 多元分析中的图像分析 关键词：特征值分解；奇异值分解；低秩乘积矩阵近似；高斯-纽顿方法；全球收敛；\（Q\）-线性收敛速度；算法；数值实验；矩阵完成；主成分分析；Krylov子空间方法 软件：PROPACK公司；贾达米卢；ARPACK公司；美食；洛佩克。米；巴黎证券交易所；DVDSON公司 PDF格式BibTeX公司 XML格式引用 \textit{X.Liu}等人，SIAM J.Optim。25，第3号，1571--1608（2015；Zbl 1321.65060） 全文： 内政部 参考文献： [1] J.Barzilai和J.M.Borwein，｛\it两点步长梯度法｝，IMA J.Numer。分析。，8（1988），第141-148页·Zbl 0638.65055号 [2] A.Beck和M.Teboulle，{线性反问题的快速迭代收缩阈值算法}，SIAM J.成像科学。，2（2009年），第183-202页·Zbl 1175.94009号 [3] M.Bollho¨fer和Y.Notay，{it JADAMILU:计算大型稀疏对称矩阵选定特征值的软件代码}，计算。物理学。Comm.，177（2007），第951-964页·Zbl 1196.65072号 [4] E.J.Candès、X.Li、Y.Ma和J.Wright，《稳健主成分分析？》，J.ACM，58（2011），第1-37页·Zbl 1327.62369号 [5] E.J.Candès和B.Recht，{通过凸优化实现精确矩阵完成}，Found。计算。数学。，9（2009），第717-772页·Zbl 1219.90124号 [6] E.J.Candès和T.Tao，{凸松弛的力量：近最优矩阵完成}，IEEE Trans。通知。《理论》，56（2010），第2053-2080页·Zbl 1366.15021号 [7] H.-R.Fang和Y.Saad，《极值和内特征值问题的滤波Lanczos程序》，SIAM J.Sci。计算。，34（2012年），第A2220-A2246页·Zbl 1253.65053号 [8] R.Fletcher，《优化的实用方法》，第2版，Wiley Interscience，英国奇切斯特，1987年·Zbl 0905.65002号 [9] N.Halko、P.G.Martinsson和J.A.Tropp，《寻找具有随机性的结构：构造近似矩阵分解的概率算法》，SIAM Rev.，53（2011），第217-288页·Zbl 1269.65043号 [10] H.O.Hartley，{用最小二乘法拟合非线性回归函数的修正Guass-Newton方法}，《技术计量学》，3（1961），第269-280页·Zbl 0096.34603号 [11] C.Jian-Feng，E.J.Candes，S.Zuowei，{矩阵完成导出的奇异值阈值算法}，SIAM J.Optim。，20（2010），第1956-1982页·Zbl 1201.90155号 [12] A.V.Knyazev，{走向最优预处理特征解算器：局部最优块预处理共轭梯度法}，SIAM J.Sci。计算。，23（2001），第517-541页·Zbl 0992.65028号 [13] L.Kronik、A.Makmal、M.Tiago、M.M.G.Alemany、X.Huang、Y.Saad和J.R.Chelikowsky，{\it PARSEC–真实空间电子结构计算的伪势算法：纳米结构的最新进展和新应用}，Phys。Stat.Solidi公司。（b） 第243页（2006年），第1063-1079页。 [14] R.M.Larsen，{部分重正交化Lanczos双对角化}，技术报告，DAIMI PB-357，奥胡斯大学，1998年。 [15] R.B.Lehoucq，{隐含地重新启动了Arnoldi方法和子空间迭代}，SIAM J.矩阵分析。申请。，23（2001），第551-562页·Zbl 1004.65044号 [16] R.B.Lehoucq、D.C.Sorensen和C.Yang，《ARPACK用户指南：用隐式重启Arnoldi方法解决大规模特征值问题》，《软件环境》。工具6，SIAM，费城，1998年·Zbl 0901.65021号 [17] K.Levenberg，{用最小二乘法求解某些非线性问题的方法}，Quart。申请。数学。，2（1944），第164-168页·兹比尔0063.03501 [18] Z.Lin，M.Chen，L.Wu，Y.Ma，{用于精确恢复受损低秩矩阵的增广拉格朗日乘子法}，UIUC技术报告UILU-ENG-09-2215（2009）。 [19] X.Liu，Z.Wen，and Y.Zhang，{计算优势奇异值分解的有限内存块Krylov子空间优化}，SIAM J.Sci。计算。，35（2013年），第A1641-A1668页·Zbl 1278.65045号 [20] D.W.Marquardt，{非线性参数最小二乘估计算法}，J.SIAM，11（1963），第431-441页·Zbl 0112.10505号 [21] B.Recht、M.Fazel和P.A.Parrilo，{通过核范数最小化保证线性矩阵方程的最小秩解}，SIAM Rev.，52（2010），第471-501页·Zbl 1198.90321号 [22] H.Rutishauser，{F.L.Bauer同时迭代法的计算方面}，数值。数学。，13（1969年），第4-13页·Zbl 0182.21304号 [23] H.Rutishauser，{对称矩阵的同步迭代法}，Numer。数学。，16（1970年），第205-223页·兹比尔0239.65037 [24] Y.Saad，{解决非对称特征值问题的切比雪夫加速技术}，数学。公司。，42（1984），第567-588页·Zbl 0539.65013号 [25] D.C.Sorensen，《并行数值算法》（弗吉尼亚州汉普顿，1994），ICASE/LaRC Interdiscip，{隐含地重新启动了用于大规模特征值计算的Arnoldi/Lanczos方法}。序列号。科学。Eng.4，Kluwer，Dordrecht，Netherlands，1996年，第119-165页·Zbl 0865.65019号 [26] A.Stathopoulos和C.F.Fischer，{寻找大型稀疏实对称矩阵的几个选定极端特征对的戴维森程序}，计算。物理学。Comm.，79（1994），第268-290页·Zbl 0878.65029号 [27] G.W.Stewart，{计算非厄米矩阵不变子空间的同步迭代}，Numer。数学。，25（1975/76），第123-136页·Zbl 0328.65025号 [28] W.J.Stewart和A.Jennings，《实矩阵的同时迭代算法》，ACM Trans。数学。《软件》，第7卷（1981年），第184-198页·Zbl 0455.65028号 [29] P.Tak、P.Tang和E.Polizzi，{通过近似谱投影加速的子空间迭代特征解}，arXiv:1302.04322013·Zbl 1303.65018号 [30] K.-C.Toh和S.Yun，{核范数正则最小二乘问题的加速近似梯度算法}，Paci。J.优化。，6（2010年），第615-640页·Zbl 1205.90218号 [31] Z.Wen，C.Yang，X.Liu，Y.Zhang，{大规模特征空间计算的迹效最小化}，科学杂志。计算。（2015），DOI:10.1007/s10915-015-0061-0·Zbl 1373.65026号 [32] Z.Wen和Y.Zhang，{用于大规模特征对计算的带增强Rayleigh-Ritz投影的块算法}，预印本，arXiv:1507.060782015·Zbl 1463.65073号 [33] X.Yuan和J.Yang，{交替方向法的稀疏低阶矩阵分解}，Paci。J.优化。，9（2013），第167-180页·Zbl 1269.90061号 [34] Y.Zhou和Y.Saad，大型对称本征问题的Chebyshev-Davidson算法，SIAM J.矩阵分析。申请。，29（2007），第954-971页·Zbl 1151.65321号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。