×

一种Golub-Kahan Davidson方法,用于精确计算大型稀疏矩阵的几个奇异三元组。 (英语) Zbl 1420.65047号

摘要:获得大型稀疏矩阵的高精度奇异三元组是一个重大挑战,尤其是在搜索最小三元组时。由于这些问题的难度和规模,有效的方法必须在严格的内存限制下,使用预条件迭代地工作。在本研究中,我们提出了一种Golub-Kahan Davidson方法(GKD),该方法满足这些要求,包括具有正交性保证的软锁、类似于Jacobi-Davidson的内部校正方程、局部最优重启、,以及在正方形和矩形矩阵中找到实际零奇异值的能力。此外,我们的方法在避免增广矩阵的同时达到了完全的精度,由于内部特征值问题的困难,增广矩阵对于最小三元组通常收敛缓慢。我们详细描述了我们的方法,包括出现的实现问题。我们的实验结果证实了我们的方法相对于当前在PRIMME软件包中实现PHSVDS的效率和稳定性。

MSC公司:

2015财年65 矩阵特征值和特征向量的数值计算
15A04号 线性变换、半线性变换
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Advanced Micro Devices,Inc.公司。,AMD OpenCL优化指南, http://developer.amd.com/wordpress/media/2013/12/amd_OpenCL_Programming_Optimization_Guide2.pdf(2018-02-14访问)。
[2] O.Alter、P.O.Brown和D.Botstein,用于全基因组表达数据处理和建模的奇异值分解,程序。国家。阿卡德。科学。美国,97(2000),第10101-10106页。
[3] J.Baglama、D.Calvetti和L.Reichel,IRBL:求解大规模厄米特特征问题的隐式重启块Lanczos方法,SIAM J.科学。计算。,24(2003),第1650-1677页,https://doi.org/10.1137/S1064827501397949。 ·Zbl 1044.65027号
[4] J.Baglama和L.Reichel,增强隐式重启Lanczos双对角化方法,SIAM J.科学。计算。,27(2005),第19-42页,https://doi.org/10.1137/04060593X。 ·Zbl 1087.65039号
[5] J.Baglama和L.Reichel,重启块Lanczos双对角化方法,数字。《算法》,43(2006),第251-272页·Zbl 1110.65027号
[6] T.A.Davis和Y.Hu,佛罗里达大学稀疏矩阵集合,ACM变速器。数学。软件,38(2011),1·Zbl 1365.65123号
[7] A.S.Gambhir、A.Stathopoulos和K.Orginos,通缩作为估计矩阵逆迹的方差减少方法,SIAM J.科学。计算。,39(2017),第A532-A558页,https://doi.org/10.1137/16M1066361。 ·Zbl 1365.65111号
[8] G.Golub和W.Kahan,计算矩阵的奇异值和伪逆,《社会工业杂志》。申请。数学。序列号。B数字。分析。,2(1965年),第205-224页·兹比尔0194.18201
[9] G.H.Golub和C.F.Van Loan,矩阵计算,第三版,约翰·霍普金斯大学出版社,马里兰州巴尔的摩,1996年·兹比尔0865.65009
[10] R.G.Grimes、J.G.Lewis和H.D.Simon,求解稀疏对称广义特征值问题的移位块Lanczos算法,SIAM J.矩阵分析。申请。,15(1994),第228-272页,https://doi.org/10.1137/S0895479888151111。 ·Zbl 0803.65044号
[11] S.Gupta、A.Agrawal、K.Gopalakrishnan和P.Narayanan,有限数值精度的深度学习《机器学习国际会议论文集》,2015年,第1737-1746页。
[12] M.E.Hochstenbach,Jacobi-Davidson型奇异值分解方法,SIAM J.科学。计算。,23(2001),第606-628页,https://doi.org/10.1137/S1064827500372973。 ·Zbl 1002.65048号
[13] W.霍夫曼,Gram-Schmidt正交化的迭代算法《计算》,41(1989),第335-348页·Zbl 0667.65037号
[14] J.Huang和Z.Jia,大规模奇异值分解计算的Jacobi-Davidson型方法的内迭代,SIAM J.科学。计算。,41(2019),第A1574-A1603页,https://doi.org/10.1137/18M1192019。 ·Zbl 1420.65049号
[15] Z.Jia和C.Li,移位剩余Arnoldi方法和Jacobi-Davidson方法中的内部迭代,科学。中国数学。,57(2014),第1733-1752页,https://doi.org/10.1007/s11425-014-4791-5。 ·Zbl 1312.65054号
[16] Z.Jia和C.Li,内特征值问题的调和变换和精细调和变换残差Arnoldi和Jacobi-Davidson方法,J.计算。申请。数学。,282(2015),第83-97页,https://doi.org/10.1016/j.cam.2014.12.043。 ·Zbl 1309.65041号
[17] Z.Jia和D.Niu,计算部分奇异值分解的隐式重启精细双对角化Lanczos方法,SIAM J.矩阵分析。申请。,25(2003),第246-265页,https://doi.org/10.1137/S0895479802404192。 ·Zbl 1063.65030号
[18] I.乔利夫,主成分分析,Springer-Verlag,纽约,2002年·Zbl 1011.62064号
[19] A.V.Knyazev,走向最优预处理特征解算器:局部最优块预处理共轭梯度法,SIAM J.科学。计算。,23(2001),第517-541页,https://doi.org/10.1137/S1064827500366124。 ·Zbl 0992.65028号
[20] R.M.Larsen,Lanczos双对角化与部分重方化,DAIMI报告系列,27(1998),537。
[21] Q.Liang和Q.Ye,用无逆预处理Krylov子空间方法计算大矩阵的奇异值,电子。事务处理。数字。分析。,42(2014),第197-221页·Zbl 1312.65061号
[22] S.Markidis、S.W.D.Chien、E.Laure、I.B.Peng和J.S.Vetter,NVIDIA Tensor核心可编程性、性能和精度,预打印,https://arxiv.org/abs/1803.04014, 2018.
[23] J.R.McCombs和A.Stathopoulos,特征值求解器的迭代验证:一种提高厄米特特征值解算器可靠性的方案,SIAM J.科学。计算。,28(2006),第2337-2358页,https://doi.org/10.1137/050627617。 ·Zbl 1126.65031号
[24] K.Meerbergen、R.Morgan和A.Knyazev,不精确的方法《代数特征值问题求解模板:实用指南》,Z.Bai、J.Demmel、J.Dongarra、A.Ruhe和H.van der Vorst编辑,SIAM,费城,2000年,第337-368页,https://doi.org/10.1137/1.9780898719581.ch11。
[25] Y.公证人,部分对称特征值问题的Jacobi-Davidson和共轭梯度组合,数字。线性代数应用。,9(2002),第21-44页·Zbl 1071.65516号
[26] S.Osiníski、J.Stefanowski和D.Weiss,Lingo:基于奇异值分解的搜索结果聚类算法《智能信息处理和Web挖掘》,柏林施普林格,海德堡,2004年,第359-368页。
[27] B.N.Parlett,对称特征值问题,普伦蒂斯大厅,英格兰伍德悬崖,新泽西州,1980年·Zbl 0431.65017
[28] H.Prasantha、H.Shashidhara和K.B.Murthy,使用SVD的图像压缩,载于《IEEE计算智能与多媒体应用国际会议论文集》,2007年第3卷,第143-145页。
[29] H.D.Simon和H.Zha,基于Lanczos双对角过程的低秩矩阵逼近及其应用,SIAM J.科学。计算。,21(2000),第2257-2274页,https://doi.org/10.1137/S1064827597327309。 ·Zbl 0962.65038号
[30] A.Stathopoulos,寻找厄米矩阵大量特征向量的锁定问题《技术报告》WM-CS-2005-09,《计算机科学》,弗吉尼亚州威廉斯堡威廉与玛丽学院,2005年。
[31] A.Stathopoulos,有限记忆下厄米特特征问题的近似最优预处理方法。第一部分:寻找一个特征值,SIAM J.科学。计算。,29(2007),第481-514页,https://doi.org/10.1137/050631574。 ·Zbl 1137.65019号
[32] A.Stathopoulos和Y.Saad,(Jacobi-)Davidson对称特征值方法的重启技术,电子。事务处理。数字。分析。,7(1998),第163-181页·Zbl 0912.65027号
[33] A.Stathopoulos和K.Wu,具有恒定同步要求的块正交化过程,SIAM J.科学。计算。,23(2002),第2165-2182页,https://doi.org/10.1137/S1064827500370883。 ·Zbl 1018.65050号
[34] E.Vecharynski,线性系统、特征值和奇异值问题的预处理迭代方法,科罗拉多大学丹佛分校博士论文,科罗拉多州丹佛市,2011年。
[35] K.Wu和H.Simon,大型对称特征值问题的厚重启Lanczos方法,SIAM J.矩阵分析。申请。,22(2000),第602-616页,https://doi.org/10.1137/S0895479898334605。 ·Zbl 0969.65030号
[36] L.Wu、E.Romero和A.Stathopoulos,PRIMME_SVDS:一种高性能的预处理SVD解算器,用于精确的大规模计算,预打印,https://arxiv.org/abs/11607.01404, 2016. ·Zbl 1392.65100号
[37] L.Wu和A.Stathopoulos,精确计算大矩阵奇异三元组的预条件混合SVD方法,SIAM J.科学。计算。,37(2015),第S365-S388页,https://doi.org/10.1137/10979381。 ·Zbl 1325.65055号
[38] P.Zhang和Y.Gao,高密度多GPU体系结构上的矩阵乘法:理论和实验研究《高性能计算国际会议》,Springer,Cham,2015年,第17-30页。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。