×
艾琳·卡森；凯瑟琳·隆德；米罗斯拉夫·罗兹洛日尼克；史蒂芬·托马斯

块Gram-Schmidt算法及其稳定性。 （英文） Zbl 1490.65074号

线性代数应用。 638, 150-195 (2022).
摘要：块Gram-Schmidt算法在许多科学计算应用程序中充当基本内核，但对于许多常用的变体，对其稳定性属性的严格处理仍然是开放的。这项工作为块Gram-Schmidt算法提供了一个全面的分类，特别是那些在Krylov子空间方法中用于每次构建一个块向量的正交基的算法。对已知的稳定性结果进行组合，并对重要的通信减少变体总结或推测新的结果。此外，还导出了低同步变体的新块版本，并在大量具有挑战性的示例中证明了其有效性和稳定性。数值示例使用通用的Matlab公司包托管于https://github.com/katlund/BlockStab，并提供了用于重现本文中所有结果的脚本。讨论了流行软件包中的块Gram-Schmidt实现，以及一些开放问题。提供了一个包含以统一方式设置的所有算法类型的附录。

引用于1审查
引用于5文件

MSC公司：

65层25 数值线性代数中的正交化
15A23型 矩阵的因式分解
65层10 线性系统的迭代数值方法

关键词：

Gram-Schmidt方法；块Krylov子空间方法；稳定性；正交性损失

软件：

方块刺；胆碱酯酶QR2；洛佩克。米；CholQR公司；mctoolbox软件；github；Matlab公司
PDF格式BibTeX公司 XML格式引用
\textit{E.Carson}等人，《线性代数应用》。638150-195（2022年；Zbl 1490.65074）
全文： 内政部 arXiv公司

参考文献：

[1] Golub，G。；Underwood，R.，计算特征值的块Lanczos方法，（Rice，J.R.，数学软件（1977），学术出版社），361-377·Zbl 0407.68040号
[2] Stewart，G.W.，大型特征问题的Krylov-Schur算法，SIAM J.矩阵分析。申请。，23, 3, 601-614 (2001) ·Zbl 1003.65045号
[3] O'Leary，D.P.，块共轭梯度算法及相关方法，线性代数应用。，29, 1980, 293-322 (1980) ·Zbl 0426.65011号
[4] 贝克，A.H。；丹尼斯·J·M。；Jessup，E.R.，《关于提高线性求解器性能：GMRES的块变体》，SIAM J.Sci。计算。，27, 5, 1608-1626 (2006) ·Zbl 1099.65029号
[5] 巴拉德·G。；Carson，E.C。；Demmel，J.W。；霍姆曼，M。；奈特，N。；Schwartz，O.，《数值线性代数的通信下限和优化算法》，《数值学报》。，23, 2014, 1-155 (2014) ·Zbl 1396.65082号
[6] 格里戈里，L。；穆法瓦德，S。；Nataf，F.，用于减少通信的扩大Krylov子空间共轭梯度法，SIAM J.矩阵分析。申请。，37, 2, 744-773 (2016) ·Zbl 1382.65086号
[7] 德梅尔，J。；格里戈里，L。；霍姆曼，M。；Langou，J.，通信最优并行和序列QR和LU分解（2008）
[8] 澳大利亚比约克。，通过Gram-Schmidt正交化求解线性最小二乘问题，BIT，7，1-21（1967）·Zbl 0183.17802号
[9] 比约克，澳大利亚。；Paige，C.C.，《修正Gram-Schmidt算法中正交性的丢失和重新获得》，SIAM J.矩阵分析。申请。，13, 1, 176-190 (1992) ·Zbl 0747.65026号
[10] Higham，N.J.，《数值算法的准确性和稳定性》（2002），SIAM:SIAM Philadelphia·Zbl 1011.65010号
[11] 佩奇，C.C。；罗兹洛日尼克，M。；Strakoš，Z.，改良Gram-Schmidt（MGS），最小二乘法和MGS-GMRES的后向稳定性，SIAM J.矩阵分析。申请。，28, 1, 264-284 (2006) ·Zbl 1113.65028号
[12] Yamamoto，Y。；Y.Nakatsukasa。；Yanagisawa，Y。；Fukaya，T.，CholeskyQR2算法的舍入误差分析，电子。事务处理。数字。分析。，44, 306-326 (2015) ·Zbl 1330.65049号
[13] Fukaya，T。；Kannan，R。；Y.Nakatsukasa。；Yamamoto，Y。；Yanagisawa，Y.，用于计算病态矩阵的QR因子分解的Shifted Cholesky QR，SIAM J.Sci。计算。，42、1、A477-A503（2020）·Zbl 1434.65041号
[14] Leon，S.J。；比约克，澳大利亚。；Gander，W.，Gram-Schmidt正交化：100年及更长时间，Numer。线性代数应用。，20, 3, 492-532 (2013) ·Zbl 1313.65086号
[15] Barlow，J.L.，块修改的Gram-Schmidt算法及其分析，SIAM J.矩阵分析。申请。，40, 4, 1257-1290 (2019) ·Zbl 1427.65054号
[16] 巴洛，J.L。；Smoktunowicz，A.，重新正交化块经典Gram-Schmidt，Numer。数学。，123, 3, 395-423 (2013) ·Zbl 1269.65042号
[17] Vanderstraeten，D.，无需重新正交化的精确并行块Gram-Schmidt算法，Numer。线性代数应用。，7, 4, 219-236 (2000) ·Zbl 1051.65046号
[18] Jalby，W。；Philippe，B.，块Gram-Schmidt算法的稳定性分析和改进，SIAM J.Sci。计算。，12, 5, 1058-1073 (1991) ·Zbl 0734.65034号
[19] Sadkane，M.，非对称大特征值问题的Block Arnoldi和Davidson方法，Numer。数学。，64, 1, 195-211 (1993) ·Zbl 0791.65021号
[20] 西蒙西尼，V。；Gallopoulos，E.，块GMRES和矩阵多项式的收敛性，线性代数应用。，247, 97-119 (1996) ·Zbl 0861.65023号
[21] Saad，Y.，《稀疏线性系统的迭代方法》（2003），SIAM:SIAM Philadelphia·Zbl 1002.65042号
[22] Morgan，R.B.，用特征值通缩重新启动区块GMRES，应用。数字。数学。，54, 2, 222-236 (2005) ·Zbl 1074.65043号
[23] Gutknecht，M.H.，《具有多个右手边的线性系统的Block Krylov空间方法：简介》，（Siddiqi，A.H.；Duff，I.S.；Christensen，O.，《现实世界系统的现代数学模型、方法和算法》（2007），阿纳马亚出版社），420-447
[24] Hoemmen，M.，通信避免Krylov子空间方法（2010），加州大学伯克利分校电气工程与计算机科学系，博士论文
[25] 西维里多维奇，K。；Langou，J。；Ananthan，S。；杨，U。；Thomas，S.，低同步Gram-Schmidt和广义最小残差算法，Numer。线性代数应用。，28，2，第2343条第（2021）页·Zbl 1474.65103号
[26] Demmel，J.W。；格里戈里，L。；霍姆曼，M。；Langou，J.，通信优化并行和序列QR和LU分解，SIAM J.科学。计算。，34、1、A206-A239（2012）·Zbl 1241.65028号
[27] Bienz，A。；格罗普，W。；Olson，L.，对allreduce的Node-aware改进，（2019 IEEE/ACM Exascale MPI（ExaMPI）研讨会论文集（2019），ACM）
[28] Smoktunowicz，A。；巴洛，J.L。；Langou，J.，经典Gram-Schmidt错误分析注释，Numer。数学。，105, 2, 299-313 (2006) ·Zbl 1108.65021号
[29] Carson，E。；Lund，K。；Rozloíník，M.，经典Gram-Schmidt的区块变体的稳定性，SIAM J.矩阵分析。申请。，42, 3, 1365-1380 (2021) ·Zbl 1476.65060号
[30] 山崎，I。；托马斯·S。；霍姆曼，M。；Boman，E.G。；Świrydowicz，K。；Eilliot，J.J.，Trilinos中s步和流水线Krylov解算器的低同步正交化方案，（2020年SIAM并行处理会议论文集）。2020年西雅图西雅图SIAM并行处理会议记录（2020年）
[31] Abdelmalek，N.N.，《Gram-Schmidt方法的舍入误差分析和线性最小二乘问题的求解》，BIT，11，345-367（1971）·Zbl 0236.65031号
[32] Parlett，B.N.，《对称特征值问题》（1998），SIAM:SIAM Philadelphia·Zbl 0885.65039号
[33] J.W.丹尼尔。；Gragg，W.B。；考夫曼，L。；Stewart，G.W.，更新Gram-Schmidt QR分解的重正交化和稳定算法，数学。计算。，30, 772-795 (1976) ·Zbl 0345.65021号
[34] 霍夫曼，W.，Gram-Schmidt正交化的迭代算法，计算，41，4，335-348（1989）·Zbl 0667.65037号
[35] Stewart，G.W.，《矩阵算法》。第1卷：基本分解（1998），SIAM：费城SIAM·Zbl 0910.65012号
[36] Stewart，G.W.，Block Gram-Schmidt正交化，SIAM J.Sci。计算。，31, 1, 761-775 (2008) ·Zbl 1185.65069号
[37] Ruhe，A.，向量的Gram-Schmidt正交化的数值方面，线性代数应用。，52, 591-601 (1983) ·Zbl 0515.65036号
[38] Vital，B.，Etude de quelques méthodes de résolution de problèmes linéaires de grand-taille sur multiprocesseur（1990），雷恩大学博士论文
[39] Kim，S.K。；Chronopoulos，A.T.，稀疏非对称矩阵极值特征值的一种有效并行算法，国际超级计算杂志。申请。，6, 1, 98-111 (1992)
[40] Schreiber，R。；Van Loan，C.，《Householder转换产品的存储效率WY表示法》，SIAM J.Sci。统计计算。，10, 1, 53-57 (1989) ·Zbl 0664.65025号
[41] Walker，H.F.，使用Householder变换实现GMRES方法，SIAM J.Sci。统计计算。，9, 1, 152-163 (1988) ·Zbl 0698.65021号
[42] Sun，X.，《初等变换的聚合》（1996），杜克大学，技术代表Duke-TR-1996-03
[43] Golub，G.H。；Van Loan，C.F.，《矩阵计算》（2013），约翰霍普金斯大学出版社：约翰霍普金大学出版社巴尔的摩·Zbl 1268.65037号
[44] Carson，E.C.，具有动态基更新的自适应s步共轭梯度算法，应用。数学。，65, 2, 123-151 (2020) ·Zbl 07217102号
[45] Kiełbasiáski，A.，Analiza numeryczna algorytmu ortogona \322»izacji Grama-Schmidta，Ser。III材料存放。，二、 15-35（1974年）
[46] Giraud，L。；Langou，J。；罗兹洛日尼克，M。；Van Den Eshof，J.，经典Gram-Schmidt正交化过程的舍入误差分析，数值。数学。，101, 87-100 (2005) ·Zbl 1075.65060号
[47] Giraud，L。；Langou，J.，修改后的Gram-Schmidt生成一组条件良好的向量，IMA J.Numer。分析。，22, 4, 521-528 (2002) ·Zbl 1027.65050号
[48] Gander，W.，《QR分解算法》（Ferr Angewandte Mathematik研讨会（1980），Eidgenössische Technische Hochschule）（1980年4月），技术代表80-02
[49] 莫里，D。；Yamamoto，Y。；Zhang，S.L.，用于Householder QR分解的AllReduce算法的向后误差分析，Jpn。J.Ind.申请。数学。，29, 1, 111-130 (2012) ·Zbl 1260.65036号
[50] Carson，E.C.，《通信理论与实践中避免Krylov子空间方法》（2015），加利福尼亚大学电气工程与计算机科学系：加利福尼亚大学伯克利分校电气工程与计算科学系，博士论文
[51] 山崎，I。；托莫夫，S。；Dongarra，J.，混合精度Cholesky QR分解及其在多GPU多核CPU上的案例研究，SIAM J.Sci。计算。，37、3、C307-C330（2015）·Zbl 1320.65046号
[52] 山崎，I。；托莫夫，S。；Kurzak，J。；Dongarra，J。；Barlow，J.L.，混合决策块Gram-Schmidt正交化，（第六届大系统可缩放算法最新进展研讨会论文集，ScalA’15（2015），ACM）
[53] Yang，L.M。；福克斯，A。；Sanders，G.，混合精度块Householder QR算法的舍入误差分析（2021）·Zbl 1512.65066号
[54] 山崎，I。；Hoemmen，M.，《Trilinos中的通信避免和流水线Krylov解算器》（SIAM计算科学与工程会议，SIAM计算科技与工程会议（2019年，华盛顿斯波坎），演讲
[55] Jolivet，P。；罗曼，J.E。；Zampini，S.，KSPHPDDM和PCHPDDM：使用先进的Krylov方法和稳健的多层重叠Schwarz预条件扩展PETSc，计算。数学。申请。，84, 277-295 (2021) ·Zbl 1524.65135号
[56] Knyazev，A.V.，走向最优预条件本征解算器：局部最优块预条件共轭梯度法，SIAM J.Sci。计算。，23, 2, 517-541 (2001) ·Zbl 0992.65028号
[57] 樱井，T。；Sugiura，H.，《使用数值积分求解广义特征值问题的投影方法》，J.Compute。申请。数学。，159, 1, 119-128 (2003) ·Zbl 1037.65040号
[58] 艾尔曼，M。；Ernst，O.G。；Güttel，S.，矩阵函数的放气重启，SIAM J.矩阵分析。申请。，32, 2, 621-641 (2011) ·Zbl 1264.65070号
[59] Frommer，A。；居特尔，S。；Schweitzer，M.，基于求积的矩阵函数的高效和稳定Arnoldi重启，SIAM J.矩阵分析。申请。，3561-683（2014年）·Zbl 1309.6500号
[60] Frommer，A。；居特尔，S。；Schweitzer，M.，矩阵Stieltjes函数重启Krylov子空间方法的收敛性，SIAM J.矩阵分析。申请。，35, 4, 1602-1624 (2014) ·Zbl 1316.65040号
[61] Frommer，A。；Lund，K。；Szyld，D.B.，矩阵函数的块Krylov子空间方法II：修改的块FOM，SIAM J.矩阵分析。申请。，41, 2, 804-837 (2020) ·Zbl 1441.65051号
[62] Güttel，S.，矩阵函数的有理Krylov近似：数值方法和最优极点选择，GAMM Mitt。，36, 1, 8-31 (2013) ·Zbl 1292.65043号
[63] Parks，M.L。；De Sturler，E。；Mackey，G。；约翰逊，D.D。；Maiti，S.，回收线性系统序列的Krylov子空间，SIAM J.Sci。计算。，28, 5, 1651-1674 (2006) ·Zbl 1123.65022号
[64] Parks，M.L。；Soodhalter，K.M。；Szyld，D.B.，一种块循环GMRES方法，研究求解器性能（2016）
[65] Gutknecht，M.H。；Schmelzer，T.，更新块三对角矩阵和块Hessenberg矩阵的QR分解，应用。数字。数学。，58, 6, 871-883 (2008) ·Zbl 1143.65032号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。