×
M.F.卡卢拉齐。;刘，K。;陈，J。;德拉马雷，R.C。

一种用于逼近奇异值分解的有效随机QLP算法。 （英语） Zbl 07741602号

信息科学。 648，文章ID 119464，16 p.（2023）.
摘要：秩揭示枢轴QLP分解通过两个连续的列向量QR（CPQR）分解近似于计算禁止的奇异值分解（SVD）。它提供了关于矩阵的所有四个基本子空间的信息。在本文中，我们介绍了QLP分解的随机版本，称为Rand-QLP。对矩阵\（\mathbf{a}\）进行运算，Rand-QLP给出\（\mathbf{A2}=\mathbf{QLP}^T\），其中\（\mathbf{Q}\）和\（\athbf{P}\）是正交的，\（\methbf{L}\）则是下三角的。在输入矩阵秩为（k）的假设下，我们导出了Rand-QLP的几个误差界：第一个近似奇异值的界和中间因子（mathbf{L}）的尾部块的界，这表明分解是秩揭示的；给定矩阵的所有四个基本子空间的近似子空间和精确子空间之间的距离的边界；以及由（mathbf{Q}）和（mathbf{P}）列构造的低阶近似的误差界。由于使用了随机抽样和无偏见的QR分解，从而解决了与SVD、CPQR和最新矩阵分解算法等经典算法相关的严重瓶颈。我们利用现代计算体系结构来评估不同算法的性能行为。与CPQR和SVD相比，Rand-QLP在CPU上分别实现了5倍和6.6倍的加速，在混合GPU架构下分别实现了3.8倍和4.4倍的加速。就近似质量而言，我们在合成数据和实际数据上的结果表明，Rand-QLP的近似与枢轴QLP和最优SVD的近似相当，并且在大多数情况下都大大优于CPQR的近似。

MSC公司：

2015财年65 矩阵特征值和特征向量的数值计算
65层25 数值线性代数中的正交化

关键词：

奇异值分解;枢轴QLP;随机抽样;高性能计算;通信避免算法

软件：

随机UTV;稀疏矩阵;mf工具箱;UTV公司
PDF格式BibTeX公司 XML格式引用
\textit{M.F.Kaloorazi}等人，《信息科学》。648，文章ID 119464，16 p.（2023；Zbl 07741602）
全文： 内政部 arXiv公司

参考文献：

[1] Golub，G.H。；van Loan，C.F.，《矩阵计算》（1996），约翰霍普金斯大学出版社：约翰霍普金大学出版社，马里兰州巴尔的摩·Zbl 0865.65009号
[2] Chan，T.F.，揭示QR分解的秩，线性代数应用。，88-89, 67-82 (1987) ·Zbl 0624.65025号
[3] Stewart，G.，子空间跟踪的更新算法，IEEE Trans。信号处理。，1535-1541年6月40日（1992年）
[4] Stewart，G.W.，更新揭示等级的ULV分解，SIAM J.矩阵分析。申请。，14, 2, 494-499 (1993) ·Zbl 0771.65021号
[5] Hansen，P.C.，秩亏和离散不适定问题：线性反演的数值方面（1998），SIAM:SIAM Philadelphia，PA，USA
[6] Stewart，G.W.，奇异值分解的QLP近似，SIAM J.Sci。计算。，1336-1348年4月20日（1999年）·Zbl 0939.65062号
[7] Buttari，A。；Langou，J。；Kurzak，J。；Dongarra，J.，多核结构的一类并行分片线性代数算法，并行计算。，35, 1, 38-53 (2009)
[8] 德米尔，J。；格里戈里，L。；顾，M。；Xiang，H.，利用柱旋转避免秩揭示QR因式分解的通信，SIAM J.矩阵分析。申请。，36, 1, 55-89 (2015) ·Zbl 1327.65078号
[9] 劳森，C.L。；Hanson，R.J。；Kincaid，D.R。；Krogh，F.T.，FORTRAN使用的基本线性代数子程序，ACM Trans。数学。软质。，5, 308-323 (1979) ·Zbl 0412.65022号
[10] Dongarra，J。；杜克罗兹，J。；Hammarling，S。；Hanson，R.J.，FORTRAN基本线性代数子程序的扩展集，ACM Trans。数学。软质。，14, 18-32 (1988) ·Zbl 0639.65017号
[11] Dongarra，J。；杜克罗兹，J。；Hammarling，S。；Duff，I.S.，A三级基本线性代数子程序集，ACM Trans。数学。软质。，16, 1-17 (1990) ·Zbl 0900.65115号
[12] Dongarra，J。；盖茨，M。；海德尔，A。；Kurzak，J。；Luszczek，P。；托莫夫，S。；Yamazaki，I.，《奇异值分解：极端规模算法优化剖析》，SIAM Rev.，60，4，808-865（2018）·兹比尔1410.65114
[13] Kaloorazi，M.F。；Chen，J.，高效计算矩阵低阶近似的基于投影的QLP算法，IEEE Trans。信号处理。，69, 2218-2232 (2021) ·Zbl 07591483号
[14] 范，J。；孙，Q。；周，W.-X。；Zhu，Z.，大数据主成分分析，（Balakrishnan，N.；Colton，T.；Everitt，B.；Piegorsch，W.；Ruggeri，F.；Teugels，J.L.，Wiley StatsRef:在线统计参考（2018））
[15] Meier，M。；Y.Nakatsukasa。；汤森，A。；Webb，M.，草图和预处理最小二乘解算器在数值上稳定吗？（2023），Arxiv预印本
[16] Ledent，A。；阿尔维斯，R。；Kloft，M.，正交归纳矩阵补全，IEEE Trans。神经网络。学习。系统。，1-12 (2021)
[17] 加维，C。；孟，C。；Nagy，J.G.，成像应用中通过Kronecker求和的奇异值分解近似，SIAM J.矩阵分析。申请。，39, 4, 1836-1857 (2018) ·Zbl 1404.65027号
[18] Kaloorazi，M.F。；Chen，J.，基于随机枢轴分解的矩阵的有效低秩逼近，IEEE Trans。信号处理。，68, 3575-3589 (2020) ·Zbl 07590985号
[19] Torii，H.，水静电极化时电子密度变化的奇异值分解分析，RSC Adv.，12，2564-2573（2022）
[20] Danaee，A。；德拉马雷共和国。；Nascimento，V.H.，《带偏置补偿和粗量化信号的分布式量化软件RLS学习》，IEEE Trans。信号处理。，70, 3441-3455 (2022)
[21] 马，S。；苏·L。；张毅，确定度修正随机块模型中的社区数，J.Mach。学习。决议，22，1-63（2021年）·Zbl 07370586号
[22] Choi，Y。；布朗，P。；Arrighi，W。；安德森，R。；Huynh，K.，大规模线性动力系统的时空降阶模型及其在Boltzmann输运问题中的应用，J.Compute。物理。，424，第109845条pp.（2021）·Zbl 07508450号
[23] 徐，Z。；He，R。；谢S。；Wu，S.，鲁棒主成分分析中的自适应秩估计，（2021 IEEE/CVF计算机视觉和模式识别会议。2021 IEEE/CVF计算机视觉和模式识别会议，CVPR（2021）），6573-6582
[24] 火焰，T。；Deu，J.-F。；Placzek，文学学士。；Tran，D.-M.，与流体流耦合的柔性结构大振幅振动的降阶模型，（ECCOMAS.ECCOMAS，挪威（2022））
[25] 周，F。；李，P。；Zhou，Z.，信息扩散下的主子空间估计，（Banerjee，A.；Fukumizu，K.，《第24届人工智能与统计国际会议论文集》，《第二十四届人工智能和统计国际会议文献集》，机器学习研究论文集，PMLR，第130卷（2021）），3205-3213年
[26] Zhao，Y。；Caffo，B。；Luo，X.，高维协方差矩阵的主回归，电子。J.Stat.，第15、2、4192-4235页（2021年）·Zbl 1471.62433号
[27] Che，M。；Wei，Y.，计算近似t-URV的有效算法及其应用，J.Sci。计算。，92，3（2022年9月）·Zbl 1498.65062号
[28] Lubo-Robles，D。；Bedle，H。；马福特，K.J。；Pranter，M.J.，《天然气水合物存在下地震属性选择的主成分分析评估和地震相判别的自组织图》，Mar.Pet。地质。，150，第106097条pp.（2023）
[29] W·孔。；Somani，R。；宋，Z。；卡卡德，S。；Oh，S.，混合线性回归的元学习，（Daumé，H.；Singh，A.，《第37届机器学习国际会议论文集》，第37届国际机器学习会议论文集，机器学习研究论文集，PMLR，第119卷（2020）），5394-5404
[30] 刘，H。；Ong，Y.-S。；沈，X。；Cai，J.，《当高斯过程遇到大数据：可伸缩GP的回顾》，IEEE Trans。神经网络。学习。系统。，31, 11, 4405-4423 (2020)
[31] 马，L。；Solomonik，E.，《低阶张量分解的快速准确随机化算法》，（Ranzato，M.；Beygelzimer，A.；Dauphin，Y.；Liang，P.；Vaughan，J.W.，《神经信息处理系统进展》，第34卷（2021年），Curran Associates，Inc.），24299-24312
[32] Trefethen，L.N。；Bau，D.，《数值线性代数》（1997），SIAM·Zbl 0874.65013号
[33] Björck，A.，矩阵计算中的数值方法，应用数学文本，第59卷（2015年），施普林格：施普林格-查姆·Zbl 1322.65047号
[34] Fierro，R.D。；Hansen，P.C.，揭示UTV分解的低秩，数值。算法，15，1，37-55（1997）·Zbl 0887.65043号
[35] 金塔纳-奥尔蒂，G。；太阳，X。；Bischof，C.H.，《带列旋转的QR因式分解的BLAS-3版本》，SIAM J.Sci。计算。，1486-1494年5月19日（1998年）·Zbl 0912.65034号
[36] Y.Nakatsukasa。；Higham，N.，对称特征值分解和奇异值分解的稳定高效谱分治算法，SIAM J.Sci。计算。，35、3、A1325-A1349（2013）·Zbl 1326.65049号
[37] Higham，N.，《矩阵函数：理论与计算》（2008），SIAM:SIAM Philadelphia·Zbl 1167.15001号
[38] Martinsson，P。；金塔纳-奥尔蒂，G。；Heavner，N.，randUTV：一种用于计算排名显示UTV因子分解的分块随机算法，ACM-Trans。数学。软质。，45, 1, 4:1-4:26 (2019) ·Zbl 1471.65031号
[39] 马西亚斯，R。；Stewart，G.W.，块QR算法和奇异值分解，线性代数应用。，182, 91-100 (1993) ·Zbl 0769.65012号
[40] 哈克比，D.A。；Chan，T.F.，关于逼近奇异值分解的Stewart QLP算法的收敛性，Numer。算法，32，287-316（2003）·Zbl 1035.65034号
[41] Apriansyah，M.R。；Yokota，R.，块低秩矩阵的并行QR分解，ACM Trans。数学。软质。，48, 3, 1-28 (2022) ·Zbl 07668771号
[42] Davis，T。；Hu，Y.，佛罗里达大学稀疏矩阵收集，ACM Trans。数学。软质。，38, 1, 1-25 (2011) ·Zbl 1365.65123号
[43] 于伟（Yu，W.）。；Li，Y.，《固定精度低秩矩阵近似的高效随机算法》，SIAM J.matrix Anal。申请。，39, 3, 1339-1359 (2018) ·Zbl 1405.65063号
[44] Tropp，J。；Yurtsever，A。；乌代尔，M。；Cevher，V.，低秩矩阵近似的实用草图算法，SIAM J.矩阵分析。申请。，38, 4, 1454-1485 (2017) ·Zbl 1379.65026号
[45] Kaloorazi，M.F。；de Lamare，R.C.，低秩矩阵近似的子空间轨道随机分解，IEEE Trans。信号处理。，66, 16, 4409-4424 (2018) ·Zbl 1414.68143号
[46] 斯图尔特，G.W。；孙建庚，《矩阵摄动理论》（1990），学术出版社·Zbl 0706.65013号
[47] Bernstein，D.S.，《矩阵数学：理论、事实和公式》（2009），普林斯顿大学出版社·Zbl 1183.15001号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。