×

高维张量补全的黎曼优化。 (英语) Zbl 1352.65129号

摘要:张量补全旨在重建一个高维数据集,其中绝大多数条目缺失。原始数据中低秩结构的假设允许我们将完备性问题转化为一个限制于固定秩张量流形的优化问题。该光滑嵌入子流形的元素可以有效地表示为张量列或矩阵乘积状态格式,存储复杂度随维数线性缩放。我们在黎曼优化的框架内提出了一个非线性共轭梯度格式,它利用了这种有利的尺度。数值实验和与现有方法的比较表明了该方法对多元函数逼近的有效性。最后,我们表明,与交叉近似等自适应采样技术相比,我们的算法可以从少量条目的均匀随机采样中获得竞争性重建。

MSC公司:

65楼30 其他矩阵算法(MSC2010)
15A69号 多线性代数,张量演算
15A83号 矩阵完成问题
65千5 数值数学规划方法
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] P.-A.Absil、R.Mahony和R.Sepulchre,《矩阵流形上的优化算法》,普林斯顿大学出版社,新泽西州普林斯顿,2008年·Zbl 1147.65043号
[2] P.-A.Absil和J.Malick,{矩阵流形上的类投影收缩},SIAM J.Optim。,22(2012),第135-158页·Zbl 1248.49055号
[3] P.-A.Absil和I.Oseledets,{低库收缩:调查和新结果},计算。最佳方案。申请。,62(2015),第5-29页·Zbl 1334.90202号
[4] J.Ballani和L.Grasedyck,参数相关PDEs输出量的层次张量近似,SIAM/ASA J.Uncertain。数量。,3(2015),第852-872页·Zbl 1327.65010号
[5] J.Ballani、L.Grasedyck和M.Kluge,{分层Tucker格式张量的黑盒近似},线性代数应用。,438(2013),第639-657页·Zbl 1260.65037号
[6] M.Bebendorf,{边界元矩阵的近似},数值。数学。,86(2000),第565-589页·Zbl 0966.65094号
[7] M.Bebendorf和S.Rjasanow,{配点矩阵的自适应低阶近似},《计算》,70(2003),第1-24页·Zbl 1068.41052号
[8] S.Boörm和L.Grasedyck,{积分算子的混合交叉逼近},Numer。数学。,101(2005),第221-249页·Zbl 1104.65120号
[9] E.J.Candès和T.Tao,{凸松弛的力量:近最优矩阵完成},IEEE Trans。通知。《理论》,56(2009),第2053-2080页·Zbl 1366.15021号
[10] C.Da Silva和F.J.Herrmann,{分层塔克张量优化:张量补全的应用},《第十届抽样理论与应用国际会议论文集》,2013年,第384-387页。
[11] C.Da Silva和F.J.Herrmann,{分层Tucker张量优化:张量补全的应用},线性代数应用。,481(2015),第131-173页·Zbl 1317.65136号
[12] S.V.Dolgov和D.V.Savostyanov,{高维线性系统的交替最小能量方法},SIAM J.Sci。计算。,36(2014年),第A2248-A2271页·Zbl 1307.65035号
[13] S.Gandy,B.Recht和I.Yamada,{张量补全和通过凸优化的低n秩张量恢复},《反问题》,27(2011),025010·Zbl 1211.15036号
[14] S.A.Goreinov、E.E.Tyrtyshnikov和N.L.Zamarashkin,《伪骨架近似理论》,线性代数应用。,261(1997),第1-21页·Zbl 0877.65021号
[15] L.Grasedyck、M.Kluge和S.Kra¨mer,{层次低阶张量的交替方向拟合(ADF)},预印本149,DFG SPP 13242013。
[16] L.Grasedyck、M.Kluge和S.Kra¨mer,《私人通信》,2015年。
[17] L.Grasedyck、D.Kressner和C.Tobler,低阶张量近似技术文献综述,GAMM-Mitt。,36(2013),第53-78页·Zbl 1279.65045号
[18] L.Grasedyck、R.Kriemann、C.Lo¨bbert、A.Na¨gel、G.Wittum和K.Xylouris,{分层塔克格式的平行张量采样},计算。视觉。科学。,17(2015),第67-78页·Zbl 1360.65042号
[19] S.Holtz、T.Rohwedder和R.Schneider,《张量列格式中张量优化的交替线性方案》,SIAM J.Sci。计算。,34(2012),第A683-A713页·Zbl 1252.15031号
[20] S.Holtz,T.Rohwedder和R.Schneider,{关于固定TT-rank张量的流形},Numer。数学。,120(2012),第701-731页·Zbl 1242.15022号
[21] R.H.Keshavan、A.Montanari和S.Oh,{噪声项的矩阵补全},J.Mach。学习。第11号决议(2010年),第2057-2078页·兹比尔1242.62069
[22] B.N.Khoromskij、I.V.Oseledets和R.Schneider,《TT-Manifolds动力学的高效时间步长方案》,技术报告24,MPI MIS Leipzig,2012年。
[23] D.Kressner、M.Steinlechner和A.Uschmajew,{对称特征值问题的子空间修正的Low-rank张量方法},SIAM J.Sci。计算。,36(2014年),第A2346-A2368页·Zbl 1307.65040号
[24] D.Kressner、M.Steinlechner和B.Vandereycken,《利用黎曼优化完成低秩张量》,BIT,54(2014),第447-468页·Zbl 1300.65040号
[25] J.Liu、P.Musialski、P.Wonka和J.Ye,{估计视觉数据中缺失值的张量补全},《2009年IEEE第12届计算机视觉国际会议论文集》,2009年,第2114-2121页。
[26] 刘彦,商凤,{张量补全的一种有效矩阵分解方法},IEEE信号处理。莱特。,20(2013年),第307-310页。
[27] A.Logg、K.-A.Mardal和G.N.Wells,《用有限元方法自动求解微分方程》,Lect。注释计算。科学。Engrg.84,Springer-Verlag,柏林,2012年·Zbl 1247.65105号
[28] C.Lubich、I.Oseledets和B.Vandereycken,《张量列的时间积分》,arXiv预印本1407.20422014年·Zbl 1312.65114号
[29] Y.Ma、J.Wright、A.Ganesh、Z.Zhou、K.Min、S.Rao、Z.Lin、Y.Peng、M.Chen、L.Wu、E.CandèS和X.Li,{通过凸优化实现低秩矩阵恢复和完井},调查网站,(2013年4月22日访问)。
[30] C.Mu、B.Huang、J.Wright和D.Goldfarb,{平方交易:张量恢复的下限和改进松弛},《第31届机器学习国际会议论文集》(ICML-14),2014年,第73-81页。
[31] J.Nocedal和S.J.Wright,《数值优化》,第二版,《Springer运筹学系列》,Springer出版社,2006年·Zbl 1104.65059号
[32] I.V.Oseledets,{张量-应变分解},SIAM J.科学。计算。,33(2011),第2295-2317页·Zbl 1232.15018号
[33] I.V.Oseledets和S.V.Dolgov,《线性系统的解和TT格式中的矩阵反演》,SIAM J.Sci。计算。,34(2012年),第A2718-A2739页·Zbl 1259.65071号
[34] I.V.Oseledets、S.Dolgov、D.Savostyanov和V.Kazeev,{\it TT-Toolbox版本}2.32014,在线获取。
[35] I.V.Oseledets和E.E.Tyrtyshnikov,多维数组的{TT-交叉逼近},线性代数应用。,432(2010),第70-88页·Zbl 1183.65040号
[36] H.Rauhut、R.Schneider和Z.Stojanac,{分层张量表示中的张量补全},《压缩传感及其应用》,应用。数字。哈蒙。分析。,Birkhaõuser/Spriger,Cham,2015年,第419-450页·Zbl 1333.94023号
[37] T.Rohwedder和A.Uschmajew,{\it关于张量列格式凸问题优化交替格式的局部收敛性},SIAM J.Numer。分析。,51(2013),第1134-1162页·Zbl 1273.65088号
[38] D.V.Savostyanov和I.V.Oseledets,{张量列格式多维数组的快速自适应插值},《第七届多维系统国际研讨会论文集》,IEEE,2011年。
[39] R.Schneider和A.Uschmajew,{通过Łojasiewicz不等式}在各种低秩矩阵上投影线搜索方法的收敛结果,SIAM J.Optim。,25(2015),第622-646页·Zbl 1355.65079号
[40] M.Signoretto、L.De Lathauwer和J.A.K.Suykens,{张量的核规范及其用于凸多线性估计},技术报告10-186,K.U.Leuven,2010年。
[41] M.Signoretto、Q.Tran Dinh、L.De Lathauwer和J.A.K.Suykens,《张量学习:基于凸优化和谱正则化的框架》,机器学习,94(2014),第303-351页·Zbl 1319.68191号
[42] M.Signoretto、R.Van de Plas、B.de Moor和J.A.K.Suykens,《张量与矩阵完成:与光谱数据应用的比较》,IEEE信号处理。莱特。,18(2011年),第403-406页。
[43] C.Tobler,{线性系统和特征值问题的低秩张量方法},博士论文,瑞士苏黎世联邦理工学院,2012年。
[44] E.E.Tyrtyshnikov,{镶嵌骨架法中的不完全交叉近似},《计算》,64(2000),第367-380页·Zbl 0964.65048号
[45] A.Uschmajew和B.Vandereycken,{\it使用层次张量的算法几何},线性代数应用。,439(2013),第133-166页·Zbl 1281.65062号
[46] A.Uschmajew和B.Vandereycken,{贪婪秩更新与低秩优化的黎曼下降法相结合},《2015年抽样理论与应用国际会议论文集》,IEEE,2015年,第420-424页。
[47] B.Vandereycken,{利用黎曼优化完成低秩矩阵},SIAM J.Optim。,23(2013),第1214-1236页·Zbl 1277.15021号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。