×

张量低多线性秩近似的随机化算法。 (英语) Zbl 1462.65045号

摘要:在本文中,我们致力于开发基于随机投影和奇异值分解的随机算法来计算张量的低多线性秩近似。根据亚高斯矩阵奇异值理论,对随机算法的误差界进行了概率分析。我们通过几个数值例子证明了所提算法的有效性。

MSC公司:

65层55 低阶矩阵逼近的数值方法;矩阵压缩
15A69号 多线性代数,张量微积分
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Cichocki,A。;Mandic,D.P。;德拉特豪沃,L。;周,G。;赵(Q.Zhao)。;Caiafa,C.F。;Phan,H.A.,《信号处理应用的张量分解:从双向到多路分量分析》,IEEE信号处理。杂志,32,2145-163(2015)
[2] Cichocki,A。;扎杜克,R。;Phan,A.H。;Amari,S.-i.,《非负矩阵和张量因子分解:探索性多路数据分析和盲源分离的应用》(2009),John Wiley&Sons
[3] Comon,P.,《张量分解:现状和应用》,(信号处理数学,V(考文垂,2000)。信号处理数学,V(考文垂,2000年),数学研究所。申请。Conf.序列号。New Ser,第71卷(2002),牛津大学出版社:牛津大学出版社,1-24·Zbl 1014.65007号
[4] 科尔达·T·G。;Bader,B.W.,张量分解与应用,SIAM Rev.,51,3,455-500(2009)·Zbl 1173.65029号
[5] 韦夫利特,N。;辩论,O。;Sorber,L。;De Lathauwer,L.,《利用不完全张量的分解打破维度诅咒:大数据分析中基于张量的科学计算》,IEEE信号处理。Mag.,31,5,71-79(2014)
[6] 德拉特豪沃,L。;De Moor,B。;Vandewalle,J.,《关于高阶张量的最佳秩-1和秩-\(r_1,r_2,ldots,r_n)逼近》,SIAM J.矩阵分析。申请。,1324-1342年4月21日(2000年)·Zbl 0958.15026号
[7] Eldén,L。;Savas,B.,计算张量最佳多线性秩((r_1,r_2,r_3)近似的Newton-Grassmann方法,SIAM J.矩阵分析。申请。,31, 2, 248-271 (2009) ·Zbl 1205.65161号
[8] Ishteva,M。;Absil,P.-A.公司。;Van Huffel,S。;De Lathauwer,L.,基于黎曼信赖域方案的高阶张量的最佳低多重线性秩逼近,SIAM J.矩阵分析。申请。,32, 1, 115-135 (2011) ·Zbl 1218.65041号
[9] 萨瓦斯,B。;Lim,L.-H.,关于Grassmannian和张量的多线性近似的拟Newton方法,SIAM J.Sci。计算。,32, 6, 3352-3393 (2010) ·Zbl 1226.65058号
[10] C.Navasca,L.De Lathauwer,通过半定规划实现低多线性秩张量近似,见:IEEE第17届欧洲信号处理会议,2009年,第520-524页。
[11] Goreinov,S.A。;Oseledets,I.V.公司。;Savostyanov,D.V.,Wedderburn秩约简和张量近似的Krylov子空间方法。第1部分:塔克案件,SIAM J.Sci。计算。,34、1、A1-A27(2012)·Zbl 1242.15011号
[12] 萨瓦斯,B。;Eldén,L.,张量计算的Krylov型方法I,线性代数应用。,438, 2, 891-918 (2013) ·Zbl 1258.65032号
[13] 格拉瑟迪克。;Kressner,D。;Tobler,C.,低阶张量近似技术的文献综述,GAMM-Mitt。,36, 1, 53-78 (2013) ·Zbl 1279.65045号
[14] Caiafa,C.F。;Cichocki,A.,将列式矩阵分解推广到多路阵列,线性代数应用。,433, 3, 557-573 (2010) ·Zbl 1194.15025号
[15] 德里尼亚斯,P。;Mahoney,M.W.,奇异值分解基于张量推广的随机算法,线性代数应用。,420, 2-3, 553-571 (2007) ·Zbl 1108.65032号
[16] Goreinov,S.A。;Tyrtyshnikov,E.E.,《低秩矩阵近似中的最大体积概念》(数学、计算机科学和工程中的结构化矩阵I(2001)),47-51·Zbl 1003.15025号
[17] 马奥尼,M.W。;Maggioni,M。;Drineas,P.,基于张量的数据的张量CUR分解,SIAM J.矩阵分析。申请。,30, 3, 957-987 (2008) ·Zbl 1168.65340号
[18] Oseledets,I.V。;Savostianov,D.V。;Tyrtyshnikov,E.E.,《线性时间三维阵列的塔克维数缩减》,SIAM J.矩阵分析。申请。,30, 3, 939-956 (2008) ·Zbl 1180.15025号
[19] Oseledets,I.V。;Savostianov,D.V。;Tyrtyshnikov,E.E.,张量电子密度计算中的交叉近似,数值。线性代数应用。,17, 6, 935-952 (2010) ·Zbl 1240.81002号
[20] 弗里德兰德,M.P。;Hatz,K.,计算非负张量因子分解,Optim。方法软件。,23,4631-647(2008年)·Zbl 1158.65321号
[21] Zhang,Y。;周,G。;赵(Q.Zhao)。;Cichocki,A。;Wang,X.,基于加速近端梯度和低阶近似的快速非负张量因式分解,神经计算,198148-154(2016)
[22] 周,G。;Cichocki,A。;Xie,S.,基于低阶近似的快速非负矩阵/张量因式分解,IEEE Trans。信号处理。,60, 6, 2928-2940 (2012) ·Zbl 1391.65117号
[23] 周,G。;Cichocki,A。;赵(Q.Zhao)。;Xie,S.,高效非负塔克分解:算法和唯一性,IEEE Trans。图像处理。,24, 12, 4990-5003 (2015) ·兹比尔1408.94841
[24] Golub,G.H。;Van Loan,C.F.,《矩阵计算》,xiv+756(2013),约翰霍普金斯大学出版社:约翰霍普金大学出版社,马里兰州巴尔的摩·Zbl 1268.65037号
[25] Chan,T.F.,秩揭示因子分解,线性代数应用。,88/89, 67-82 (1987) ·Zbl 0624.65025号
[26] Halko,N。;Martinsson,P.G。;Tropp,J.A.,《寻找随机性结构:构建近似矩阵分解的概率算法》,SIAM Rev.,53,2,217-288(2011)·Zbl 1269.65043号
[27] 德里尼亚斯,P。;Mahoney,M.W.,RandNLA:随机数值线性代数,Commun。ACM,59,6,80-90(2016)
[28] Mahoney,M.W.,矩阵和数据的随机算法,Found。趋势马赫数。学习。,3, 123-224 (2011) ·Zbl 1232.68173号
[29] Woodruff,D.P.,素描作为数值线性代数的工具,发现。趋势理论。计算。科学。,10, 1-157 (2014) ·Zbl 1316.65046号
[30] 德里尼亚斯,P。;Kannan,R。;Mahoney,M.W.,矩阵的快速蒙特卡罗算法II:计算矩阵的低阶近似,SIAM J.Compute。,36, 158-183 (2006) ·Zbl 1111.68148号
[31] Deshpande,A。;拉德马赫,L。;Vempala,S。;Wang,G.,通过体积采样的矩阵近似和投影聚类,理论计算。,2, 225-247 (2006) ·Zbl 1213.68702号
[32] 巴塔利诺,C。;巴拉德·G。;Kolda,T.G.,实用随机CP张量分解,SIAM J.矩阵分析。申请。,39, 876-901 (2018) ·Zbl 1444.65016号
[33] 比亚吉奥尼,D。;Beylkin,D.J。;Beylkin,G.,分离表示的随机插值分解,J.计算。物理。,281, 116-134 (2015) ·Zbl 1352.65123号
[34] 韦夫利特,N。;De Lathauwer,L.,《大规模张量正则多元分解的随机块抽样方法》,IEEE J.Sel。顶部。签署程序。,10, 2, 284-295 (2016)
[35] 周,G。;Cichocki,A。;Xie,S.,低多线性秩大张量的分解(2014),arXiv预印本arXiv:1412.1885v1
[36] 切,M。;魏毅,复张量理论与计算及其应用,xii+250(2020),施普林格:施普林格新加坡·Zbl 07170301号
[37] Che,M。;Wei,Y.,塔克近似和张量列分解的随机算法,高级计算。数学。,45, 1, 395-428 (2019) ·Zbl 1433.68600号
[38] Minster,R。;Saibaba,A.K。;Kilmer,M.,塔克格式低阶张量分解的随机算法,SIAM J.Math。数据科学。,2, 1, 189-215 (2020) ·Zbl 1484.65091号
[39] 孙,Y。;郭毅。;罗,C。;Tropp,J。;Udell,M.,流数据张量的Low-rank-Tucker分解,SIAM J.Math。数据科学。,2, 4, 1123-1150 (2020) ·兹比尔1512.65077
[40] 艾哈迈迪亚斯尔。;Cichocki,A。;Phan,A。;Oseledets,I。;Abukhovich,S。;Tanaka,T.,计算塔克分解和高阶奇异值分解的随机算法(HOSVD)(2020),arXiv预印本arXiv:2001.07124v2
[41] Martinsson,P.G。;Rokhlin,V。;Tygert,M.,矩阵分解的随机算法,应用。计算。哈蒙。分析。,30, 47-68 (2011) ·Zbl 1210.65095号
[42] 德拉特豪沃,L。;De Moor,B。;Vandewalle,J.,《多重线性奇异值分解》,SIAM J.矩阵分析。申请。,21, 4, 1253-1278 (2000) ·Zbl 0962.15005号
[43] 沙巴特,G。;Shmueli,Y。;艾森巴德,Y。;Averbuch,A.,随机LU分解,应用。计算。哈蒙。分析。,44,246-272(2016)·Zbl 1380.65077号
[44] 利特瓦克,A.E。;Pajor,A。;Rudelson,M。;Tomczakjaegermann,N.,随机矩阵的最小奇异值和随机多面体的几何,高等数学。,195, 2, 491-523 (2005) ·Zbl 1077.15021号
[45] 鲁德尔森,M。;Vershynin,R.,随机矩形矩阵的最小奇异值,Comm.Pure Appl。数学。,62, 12, 1707-1739 (2009) ·Zbl 1183.15031号
[46] 利特瓦克,A.E。;Rivasplata,O.,稀疏随机矩阵的最小奇异值,Studia Math。,212, 3, 195-218 (2012) ·Zbl 1277.60016号
[47] 塔克,L.R.,《关于三模式因子分析的一些数学注释》,《心理测量学》,31279-311(1966)
[48] Vannieuwenhoven,N。;Vandebril,R。;Meerbergen,K.,高阶奇异值分解的一种新截断策略,SIAM J.Sci。计算。,34、2、A1027-A1052(2012)·Zbl 1247.65055号
[49] Bader,B.W。;Kolda,T.G.,MATLAB张量工具箱3.0-dev版本(2017),在线提供,https://www.tensortoolbox.org
[50] 伍尔夫,F。;自由,E。;Rokhlin,V。;Tygert,M.,矩阵逼近的快速随机算法,应用。计算。哈蒙。分析。,25, 3, 335-366 (2008) ·Zbl 1155.65035号
[51] 韦夫利特,N。;辩论,O。;Sorber,L。;Van Barel,M。;De Lathauwer,L.,Tensorlab 3.0(2016),在线提供,http://tensorlab.net
[52] Saibaba,A.K.,HOID:基于Tucker表示的张量的高阶插值分解,SIAM J.矩阵分析。申请。,37, 3, 1223-1249 (2016) ·兹比尔1347.65079
[53] 索伦森特区。;Embree,M.,A DEIM诱导的CUR因子分解,SIAM J.Sci。计算。,38、3、A1454-A1482(2016)·Zbl 1382.65121号
[54] 萨瓦斯,B。;Elden,L.,使用高阶奇异值分解进行手写数字分类,模式识别。,40, 3, 993-1003 (2007) ·兹伯利1119.68188
[55] Lecun,Y。;博图,L。;Y.本吉奥。;Haffner,P.,《基于梯度的学习应用于文档识别》,Proc。IEEE,86,11,2278-2324(1998)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。