×

流张量列近似。 (英语) Zbl 1523.65042号

摘要:张量训练是一种用于压缩和处理高维数据和函数的通用工具。在这项工作中,我们引入了流张量列近似(STTA),这是一类新的算法,用于以张量列格式近似给定的张量(\mathcal{T})。STTA仅通过原始数据的双边随机草图访问(mathcal{T}),使其易于并行实现,这与现有的确定性和随机张量列近似不同。该属性还允许STTA方便地利用(mathcal{T})中的结构,例如稀疏性和各种低秩张量格式,以及它们的线性组合。当使用高斯随机矩阵绘制草图时,STTA可用于建立和扩展矩阵广义Nyström近似的现有结果的分析。我们的结果表明,如果草图的尺寸选择适当,STTA可以获得接近最佳的近似误差。一系列数值实验表明,与现有的确定性和随机性方法相比,STTA具有更好的性能。

MSC公司:

65层55 低阶矩阵逼近的数值方法;矩阵压缩
2005年5月 并行数值计算
15A69号 多线性代数,张量演算
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Aksoy,D.、Gorsich,D.J.、Veerapaneni,S.和Gorodetsky,A.A.,增量张量序列分解算法,预印本,doi:10.48550/arXiv.2211.124872022。
[2] Daas,H.Al,Ballard,G.,Cazeaux,P.,Hallman,E.,Miedlar,A.,Pasha,M.,Reid,T.W.和Saibaba,A.K.,张量-应变格式中舍入的随机算法,SIAM J.Sci。计算。,45(2023),第A74-A95页,doi:10.1137/21M1451191·Zbl 07673280号
[3] Alger,N.,Chen,P.,and Ghattas,O.,张量作用的张量列构造,应用于大型高阶导数张量的压缩,SIAM J.Sci。计算。,42(2020),第A3516-A3539页,doi:10.1137/20M131936X·Zbl 1465.35370号
[4] Bachmayr,M.、Schneider,R.和Uschmajew,A.,《求解高维偏微分方程的张量网络和层次张量》,Found。计算。数学。,16(2016),第1423-1472页,doi:10.1007/s10208-016-9317-9·Zbl 1357.65153号
[5] Che,M.和Wei,Y.,塔克近似和张量列分解的随机算法,高级计算。数学。,45(2019),第395-428页,doi:10.1007/s10444-018-9622-8·Zbl 1433.68600号
[6] Clarkson,K.L.和Woodruff,D.P.,流模型中的数值线性代数,载于第四十一届ACM计算理论研讨会论文集,计算机械协会,纽约,2009年,第205-214页,doi:10.1145/1536414.1536445·Zbl 1304.65138号
[7] Grasedyck,L.、Kressner,D.和Tobler,C.,低阶张量近似技术的文献综述,GAMM-Mitt。,36(2013),第53-78页。doi:10.1002/gamm.201310004·Zbl 1279.65045号
[8] Hackbusch,W.,《张量空间和数值张量微积分》,第二版,施普林格,柏林,2019年,doi:10.1007/978-3642-28027-6·Zbl 1534.65004号
[9] Halko,N.、Martinsson,P.G.和Tropp,J.A.,《寻找随机性结构:构建近似矩阵分解的概率算法》,SIAM Rev.,53(2011),第217-288页,doi:10.1137/090771806·兹比尔1269.65043
[10] Huber,B.、Schneider,R.和Wolf,S.,《随机张量序列奇异值分解》,载于《压缩传感及其应用:2015年第二届国际马太会议》,应用。数字。哈蒙。分析。,Birkhäuser,瑞士Cham,2017,第261-290页,doi:10.1007/978-3-319-69802-1_9。
[11] Khoromskij,B.N.,科学计算中的张量数值方法,De Gruyter,柏林,2018,doi:10.1515/9783110365917·Zbl 1405.65002号
[12] Kolda,T.G.和Bader,B.W.,张量分解和应用,SIAM Rev.,51(2009),第455-500页,doi:10.1137/07070111X·Zbl 1173.65029号
[13] Ma,L.,Solomonik,E.,Koyejo,S.,Mohamed,S.和Agarwal,A.,张量结构输入的高成本高斯张量网络嵌入,《神经信息处理系统进展》,第35卷,Belgrave,D.,Cho,K.和Oh,A.编辑,Curran Associates,Red Hook,NY,2022年,第38980-38993页。
[14] Nakatsukasa,Y.,《快速稳定随机低秩矩阵近似》,预印本,arXiv:2009.113922020,doi:10.48550/arXiv.2009.11392。
[15] Orüs,R.,《张量网络实用介绍:矩阵乘积态和投影纠缠对态》,《物理学年鉴》,349(2014),第117-158页,doi:10.1016/j.aop.2014.06.013·Zbl 1343.81003号
[16] Oseledets,I.V.,张量应变分解,SIAM J.Sci。计算。,33(2011),第2295-2317页,doi:10.1137/090752286·Zbl 1232.15018号
[17] Schollwöck,U.,《矩阵产品状态年龄中的密度矩阵重整化群》,《物理学年鉴》,326(2011),第96-192页,doi:10.1016/j.aop.2010.09.012·Zbl 1213.81178号
[18] Shi,T.,Ruth,M.和Townsend,A.,计算张量序列分解的并行算法,SIAM J.Sci。计算。,45(2023年),第C101-130页·Zbl 1517.65032号
[19] Tropp,J.A.、Yurtsever,A.、Udell,M.和Cevher,V.,低秩矩阵近似的实用草图算法,SIAM J.矩阵分析。申请。,38(2017),第1454-1485页,doi:10.1137/17M1111590·Zbl 1379.65026号
[20] Uschmajew,A.和Vandereycken,B.,低阶矩阵和张量流形上的几何方法,《非线性几何数据的变分方法手册》,施普林格,查姆,瑞士,2020年,第261-313页,doi:10.1007/978-3-030-31351-7_9·Zbl 1512.65078号
[21] Wolf,S.,《高维数据近似、恢复和预测的低秩张量分解》,博士论文,柏林大学,2019年,doi:10.14279/depositionce-8109。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。