戴维·佩尔松;丹尼尔·克雷斯纳 单调矩阵函数的随机低阶逼近。 （英语） Zbl 1515.65104号 SIAM J.矩阵分析。申请。 44，第2期，894-918（2023）. 摘要：这项工作涉及计算大型对称半正定矩阵的矩阵函数（f（boldsymbol{a}）的低阶近似，这是一项在统计学习和反问题中出现的任务。应用流行的随机化方法，如随机奇异值分解或Nyström近似到\（f（\boldsymbol{A}）\）需要用几个随机向量乘以\（f。这种方法的一个显著缺点是，带有\（f（\boldsymbol{A}）\）的矩阵向量乘积比带有\（\bold symbol}A}\）的阵向量乘积要昂贵得多，即使是仅通过Lanczos方法进行近似计算时也是如此。在这项工作中，我们提出并分析了funNyström，这是一种简单且廉价的方法，它直接从Nystróm近似的\（\boldsymbol{a}\）构造\（f（\bolssymbol}a}\。当\（f \）是单调的并且满足\（f（0）=0 \）时，使用funNyström是明智的。在更强的假设（f）是算子单调的情况下，包括矩阵平方根（boldsymbol{A}^{1/2}）和矩阵对数（log（boldsymbol{I}+boldsymbol{A{）），我们导出了Frobenius范数、核范数和算子范数中误差的概率界。这些边界证实了数值观察结果，即funNyström倾向于返回一个近似值，该近似值与最佳低阶近似值\（f（\boldsymbol{A}）\相比效果很好。此外，与现有方法相比，funNyström需要使用\（\boldsymbol{A}\）的矩阵向量乘积要少得多，才能获得\（f（\bolssymbol{A}）\）的低阶近似值，而不会牺牲准确性或可靠性。当估计与\（f（\boldsymbol{A}）\）相关的量时，我们的方法也很有趣，例如\（f。特别是，我们提出并分析了funNyström++，它是funNyström与最近开发的用于轨迹估计的Hutch++方法的组合。 引用于1文件 MSC公司： 65英尺60英寸 矩阵指数和相似矩阵函数的数值计算 65层55 低阶矩阵逼近的数值方法；矩阵压缩 关键词：低阶近似;随机数值线性代数;矩阵函数 软件：mf工具箱;MATLAB扩展;GPyTorch公司;哈奇++ PDF格式BibTeX公司 XML格式引用 \textit{D.Persson}和\textit{D.Kressner}，SIAM J.矩阵分析。申请。44，编号2，894--918（2023；Zbl 1515.65104） 全文： DOI程序 arXiv公司 参考文献： [1] Alaoui，A.和Mahoney，M.W.，具有统计保证的快速随机核脊回归，在，Curran Associates，2015，第775-783页，https://proceedings.neurips.cc/paper/2015/file/f3f27a324736617f20abbf2ffd806f6d-paper.pdf。 [2] Alexanderian，A.、Petra，N.、Stadler，G.和Ghattas，O.，《正则化稀疏化的无限维贝叶斯线性逆问题的实验优化设计》，SIAM J.Sci。计算。，36（2014），第A2122-A2148页，doi:10.1137/130933381·Zbl 1314.62163号 [3] Ando，T.，规范的比较（|||f（A）-f（B）|||\）和（||| f（|A-B|）|||），数学。Z.，197（1988），第403-409页，doi:10.1007/BF01418338·Zbl 0618.47007号 [4] Avron，H.、Clarkson，K.L.和Woodruff，D.P.，《使用草图绘制和预处理的更快核脊回归》，SIAM J.矩阵分析。申请。，38（2017），第1116-1138页，doi:10.1137/16M1105396·Zbl 1379.65008号 [5] Avron，H.、Clarkson，K.L.和Woodruff，D.P.，《近似、随机化和组合优化中正则化数据拟合的夏普界限》，Schloss Dagstuhl。莱布尼兹·赞特。通知。，沃登，2017年，27·Zbl 1471.62408号 [6] Baston，R.A.和Nakatsukasa，Y.，《随机对角线估计：概率界和改进算法》，预印本，https://arxiv.org/abs/2201.10684, 2022. [7] Bekas，C.、Kokiopoulou，E.和Saad，Y.，矩阵对角线的估计，应用。数字。数学。，57（2007），第1214-1229页，doi:10.1016/j.apnum.2007.01.003·Zbl 1123.65026号 [8] Bhatia，R.，矩阵分析，Springer-Verlag，纽约，1997，doi:10.1007/978-1-4612-0653-8·Zbl 0863.15001号 [9] Chen，T.和Hallman，E.，Krylov-Aware随机轨迹估计，预印本，arXiv:2205.017362022。 [10] Cortinovis，A.和Kressner，D.，《关于不定矩阵的随机迹估计及其在行列式中的应用》，Found。计算。数学。，22（2022），第875-903页·兹比尔1493.65009 [11] Dudley，E.、Saibaba，A.K.和Alexanderian，A.，对称半正定矩阵Schatten范数的Monte Carlo估计，Electron Trans。数字。分析。，55（2022），第213-241页，doi:10.1553/etna·Zbl 1487.65046号 [12] Estrada，E.，3D分子结构表征，化学。物理学。莱特。，319（2000），第713-718页。 [13] Estrada，E.和Higham，D.J.，《通过矩阵函数揭示的网络属性》，SIAM Rev.，52（2010），第696-714页，doi:10.1137/090761070·Zbl 1214.05077号 [14] Frangella，Z.、Tropp，J.A.和Udell，M.，随机NyströM预处理，预印本，https://arxiv.org/abs/2110.02820, 2021. [15] Frommer，A.、Lund，K.和Szyld，D.B.，矩阵函数的块Krylov子空间方法II：修改的块FOM，SIAM J.矩阵分析。申请。，41（2020年），第804-837页，doi:10.1137/19M1255847·Zbl 1441.65051号 [16] Gardner，J.，Pleiss，G.，Weinberger，K.Q.，Bindel，D.，and Wilson，A.G.，GPYtorch:Blackbox matrix matrix Gaussian process inference with GPU acceleration，in，Curran Associates，2018年，第7587-7597页，https://proceedings.neurips.cc/paper/2018/file/27e8e17134dd7083b050476733207ea1-paper.pdf。 [17] Gittens，A.和Mahoney，M.W.，《重温改进大规模机器学习的NyströM方法》，J.Mach。学习。决议，17（2016），117·兹比尔1367.68223 [18] Golub，G.H.和Van Loan，C.F.，《矩阵计算》，第四版，约翰霍普金斯大学出版社，巴尔的摩，2013年·Zbl 1268.65037号 [19] Güttel，S.，矩阵函数的有理Krylov逼近：数值方法和最优极点选择，GAMM-Mitt。，36（2013），第8-31页，doi:10.1002/gamm.201310002·Zbl 1292.65043号 [20] Halko，N.、Martinsson，P.G.和Tropp，J.A.，《寻找随机性结构：构建近似矩阵分解的概率算法》，SIAM Rev.，53（2011），第217-288页，doi:10.1137/090771806·Zbl 1269.65043号 [21] Hallman，E.、Ipsen，I.C.F.和Saibaba，A.，估算实对称矩阵对角线的蒙特卡罗方法，预印本，https://arxiv.org/abs/202.02887, 2022. ·Zbl 1512.65005号 [22] Havel，T.F.，Najfeld，I.和Yang，J.-x.，《二维核磁共振谱的矩阵分解》，Proc。国家。阿卡德。科学。美国，91（1994），第7962-7966页。 [23] Herman，E.、Alexanderian，A.和Saibaba，A.K.，线性反问题A-最优设计的随机化和重加权最小化，SIAM J.Sci。计算。，42（2020年），第A1714-A1740页，doi:10.1137/19M1267362·Zbl 1442.62175号 [24] Higham，N.J.，《矩阵的函数：理论与计算》，SIAM，费城，2008年，doi:10.1137/1.9780898717778·Zbl 1167.15001号 [25] Higham，N.J.，《矩阵指数重温的缩放和平方方法》，SIAM Rev.，51（2009），第747-764页，doi:10.1137/090768539·Zbl 1178.65040号 [26] Horn，R.A.和Johnson，C.R.，《矩阵分析》，第二版，剑桥大学出版社，剑桥，2013年·Zbl 1267.15001号 [27] Jiang，S.，Pham，H.，Woodruff，D.，and Zhang，R.，迹估计的最佳草图绘制，in，Curran Associates，2021年，第23741-23753页，https://proceedings.neurips.cc/paper/2021/file/c77bfda61a0204d445185053e6a9a8fe-paper.pdf。 [28] Lee，E.-Y.，Rotfel定理的推广，线性代数应用。，435（2011），第735-741页，doi:10.1016/j.laa.2011.017·Zbl 1217.15030号 [29] Li，H.和Zhu，Y.，迹估计和对数估计的随机块Krylov子空间方法，BIT，61（2021），第911-939页，doi:10.1007/s10543-021-00850-7·Zbl 1518.65048号 [30] Martinsson，P.-G.，矩阵计算的随机方法，Amer。数学。Soc.，普罗维登斯，RI，2018年，第187-229页·Zbl 1448.68010号 [31] McNeil，A.J.、Frey，R.和Embrechts，P.，《定量风险管理》，修订版，普林斯顿大学出版社，新泽西州普林斯顿，2015年·Zbl 1337.91003号 [32] Meier，M.和Nakatsukasa，Y.，线性最小二乘中Tikhonov正则化的随机算法，预印本，https://arxiv.org/abs/2203.07329, 2022. [33] Meyer，R.A.、Musco，C.、Musco，C.和Woodruff，D.P.，Hutch++：最优随机迹估计，摘自算法简单性研讨会，SIAM，2021年，第142-155页，doi:10.1137/1.9781611976496.16。 [34] Nakatsukasa，Y.，《快速稳定随机低秩矩阵近似》，预印本，https://arxiv.org/abs/2009.11392, 2020. [35] Persson，D.、Cortinovis，A.和Kressner，D.，用于轨迹估计的Hutch++算法的改进变体，SIAM J.矩阵分析。申请。，43（2022），第1162-1185页，doi:10.1137/21M1447623·Zbl 1492.65112号 [36] Pleiss，G.、Jankowiak，M.、Eriksson，D.、Damle，A.和Gardner，J.，《快速矩阵平方根及其在高斯过程和贝叶斯优化中的应用》，Curran Associates，2020，第22268-22281页，https://proceedings.neurips.cc/paper/2020/file/fcf55a303b71b84d326fb1d06e332a26-paper.pdf。 [37] Roberts，J.D.，线性模型简化和使用符号函数求解代数Riccati方程，国际。J.Control，32（1980），第677-687页，doi:10.1080/00207178008922881·Zbl 0463.93050号 [38] Roosta-Khorasani，F.和Ascher，U.，《改进隐式矩阵迹估计量的样本大小界限》，发现。计算。数学。，15（2015），第1187-1212页，doi:10.1007/s10208-014-9220-1·Zbl 1323.65043号 [39] Roosta Khorasani，F.，Székely，G.J.和Ascher，U.M.，使用伽马随机变量线性组合的极值概率评估大规模非线性最小二乘问题的随机算法，SIAM/ASA J.不确定。数量。，3（2015），第61-90页，doi:10.1137/14096311X·Zbl 1327.65013号 [40] Saad，Y.，《稀疏线性系统的迭代方法》，第二版，SIAM，费城，2003年，doi:10.1137/1.9780898718003·Zbl 1031.65046号 [41] Saad，Y.，大型特征值问题的数值方法，SIAM，费城，2011，doi:10.1137/1.9781611970739·Zbl 1242.65068号 [42] Saibaba，A.K.，《随机子空间迭代：正则角和酉不变范数的分析》，SIAM J.矩阵分析。申请。，40（2019），第23-48页，doi:10.1137/18M1179432·Zbl 1406.65024号 [43] Saibaba，A.K.、Alexanderian，A.和Ipsen，I.C.F.，《随机无矩阵跟踪和对数决定估计量》，Numer。数学。，137（2017），第353-395页，doi:10.1007/s00211-017-0880-z·Zbl 1378.65094号 [44] Seeger，M.，机器学习的高斯过程，国际神经系统杂志。，14（2004），第69-106页。 [45] Sidje，R.B.和Stewart，W.J.，马尔可夫链中产生的大型稀疏矩阵指数的数值研究，计算。统计数据分析。，29（1999），第345-368页，doi:10.1016/S0167-9473（98）00062-0·Zbl 1042.65508号 [46] Stuart，A.M.，《逆向问题：贝叶斯观点》，《数值学报》。，19（2010），第451-559页，doi:10.1017/S0962492910000061·Zbl 1242.65142号 [47] Tropp，J.A.、Yurtsever，A.、Udell，M.和Cevher，V.，流式数据中正-仲丁烯矩阵的Fixed-rank近似，in，Curran Associates，2017年，第1225-1234页，https://proceedings.neurips.cc/paper/2017/file/4558dbb6f6f8bb2e16d03b85bde76e2c-paper.pdf。 ·Zbl 1379.65026号 [48] Ubaru，S.、Chen，J.和Saad，Y.，通过随机Lanczos求积快速估计（texttt{tr}（f（A）），SIAM J.矩阵分析。申请。，38（2017），第1075-1099页，doi:10.1137/16M1104974·兹比尔1386.65125 [49] Ubaru，S.和Saad，Y.，《迹估计技术的应用》，《科学与工程高性能计算国际会议论文集》，施普林格出版社，2017年，第19-33页。 [50] Wenger，J.、Pless，G.、Hennig，P.、Cunningham，J.和Gardner，J.，可扩展高斯过程超参数优化的预处理，第39届机器学习国际会议论文集，162，PMLR，2022，pp.23751-23780，https://proceedings.mlr.press/v162/wenger22a.html。 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。