×

近似正交可分解对称张量的逐次秩一近似。 (英语) Zbl 1330.15030号

摘要:信号处理、机器学习和统计学中的许多理想化问题都可以归结为寻找基本对称正交可分解(SOD)张量的对称正则分解的问题。受矩阵情形的启发,提出了逐次秩一近似(SROA)格式,并证明了它可以精确地进行张量分解,从而为张量秩一逼近问题开发了大量的数值方法。然而,在实践中,由于估计、计算和建模不可避免的误差(例如),输入张量只能被假定为接近SOD张量,即与潜在SOD张量略为扰动的对称张量。本文表明,即使在存在扰动的情况下,SROA仍然可以稳健地恢复潜在张量的对称正则分解。结果表明,当扰动误差足够小时,近似误差不会随着迭代次数的增加而累积。数值结果支持了理论结果。

理学硕士:

15A69号 多线性代数,张量演算
15甲18 特征值、奇异值和特征向量
62H25个 因子分析和主成分;对应分析
94甲12 信号理论(表征、重建、滤波等)
62H30型 分类和区分;聚类分析(统计方面)
68T05型 人工智能中的学习和自适应系统
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] A.Anandkumar、R.Ge、D.Hsu和S.M.Kakade,{学习混合成员社区模型的张量方法},J.Mach。学习。Res.,15(2014),第2239-2312页·Zbl 1318.68136号
[2] A.Anandkumar、R.Ge、D.Hsu、S.M.Kakade和M.Telgarsky,{学习潜在变量模型的张量分解},J.Mach。学习。Res.,15(2014),第2773-2832页·Zbl 1319.62109号
[3] M.G.Azar、A.Lazaric和E.Brunskill,《神经信息处理系统进展》,第26卷,麻省理工学院出版社,马萨诸塞州剑桥,2013年,第2220-2228页。
[4] B.Barak、J.A.Kelner和D.Steurer,{通过平方和方法进行字典学习和张量分解},《第四十七届ACM计算理论研讨会论文集》,2015年·Zbl 1321.68396号
[5] D.P.Bertsekas,《非线性规划》,雅典娜科学出版社,马萨诸塞州贝尔蒙特,1999年·Zbl 1015.90077号
[6] A.T.Chaganty和P.Liang,估计线性回归混合物的光谱专家,《机器学习国际会议论文集》,2013年。
[7] B.Chen,S.He,Z.Li,S.Zhang,{最大块改进和多项式优化},SIAM J.Optim。,22(2012),第87-107页·Zbl 1250.90069号
[8] P.Comon,{独立成分分析,一个新概念?},信号处理。,36(1994年),第287-314页·兹比尔0791.62004
[9] P.Comon和C.Jutten,《盲源分离手册:独立成分分析和应用》,学术出版社,英国牛津,2010年。
[10] C.Davis和W.M.Kahan,{\it特征向量的扰动旋转。III},SIAM J.Numer。分析。,7(1970年),第1-46页·Zbl 0198.47201号
[11] L.De Lathauwer、B.De Moor和J.Vandewalle,{it关于高阶张量的最佳秩-\(1)和秩-\((R_1,R_2,…,R_N)逼近},SIAM J.矩阵分析。申请。,21(2000),第1324-1342页·Zbl 0958.15026号
[12] V.De Silva和L.-H.Lim,{张量秩和最佳低秩逼近问题的适定性},SIAM J.矩阵分析。申请。,30(2008),第1084-1127页·Zbl 1167.14038号
[13] F.Doshi-Velez、B.Wallace和R.Adams,{图稀疏LDA:具有结构化稀疏性的主题模型},《第二十届AAAI人工智能会议论文集》,2015年。
[14] C.Eckart和G.Young,《一个矩阵与另一个低阶矩阵的近似》,《心理学》,第1期(1936年),第211-218页。
[15] L.Han,{寻找偶数阶对称张量实特征值的无约束优化方法},Numer。代数控制优化。,3(2013),第583-599页·Zbl 1271.65064号
[16] C.Hao,C.Cui,and Y.Dai,{it超对称张量极值Z特征值的序列子空间投影方法},Numer。线性代数应用。,22(2015),第283-298页·Zbl 1363.65063号
[17] R.Harshman,{PARAFAC程序的基础:“解释性”多模因子分析的模型和条件},《加州大学洛杉矶分校语音学工作论文》,第16卷,加州大学洛杉矶校区,1970年,第1-84页。
[18] D.Henrion、J.B.Lasserre和J.Lo¨fberg,《全球化:矩、优化和半定规划》,Optim。方法软件。,24(2009),第761-779页·Zbl 1178.90277号
[19] C.J.Hillar和L.-H.Lim,{\it大多数张量问题都是NP难的},J.ACM,60(2013),45·Zbl 1281.68126号
[20] T.-K.Huang和J.Schneider,{通过张量分解从非序列数据学习隐马尔可夫模型},《神经信息处理系统进展》,第26卷,麻省理工学院出版社,马萨诸塞州剑桥,2013年,第333-341页。
[21] B.Jiang,S.Ma,and S.Zhang,{基于凸优化的张量主成分分析},数学。程序。,150(2015),第423-457页·Zbl 1312.65008号
[22] E.Kofidis和P.A.Regalia,{关于高阶超对称张量的最佳秩-1近似},SIAM J.矩阵分析。申请。,23(2002),第863-884页·Zbl 1001.65035号
[23] T.G.Kolda,{正交张量分解},SIAM J.矩阵分析。申请。,23(2001),第243-255页·Zbl 1005.15020号
[24] T.G.Kolda,{it正交秩张量分解的Eckart-Young低秩近似定理推广可能性的反例},SIAM J.矩阵分析。申请。,24(2003),第762-767页·Zbl 1044.15020号
[25] T.G.Kolda和B.W.Bader,{张量分解和应用},SIAM Rev.,51(2009),第455-500页·Zbl 1173.65029号
[26] T.G.Kolda、B.W.Bader和J.P.Kenny,{使用多线性代数进行高阶网络链接分析},《第五届数据挖掘国际会议论文集》,2005年。
[27] T.G.Kolda和J.R.Mayo,计算张量本征对的移位幂方法,SIAM J.矩阵分析。申请。,32(2011),第1095-1124页·Zbl 1247.65048号
[28] J.B.Kruskal,{\it三路数组:三线性分解的秩和唯一性,及其在算术复杂性和统计学中的应用},线性代数应用。,18(1977年),第95-138页·Zbl 0364.15021号
[29] J.B.Lasserre,多项式全局优化和矩问题,SIAM J.Optim。,11(2001),第796-817页·Zbl 1010.90061号
[30] L.-H.Lim,张量的奇异值和本征值:变分方法,《IEEE多传感器自适应处理计算进展国际研讨会论文集》,2005年第1卷,第129-132页。
[31] L.-H.Lim和P.Comon,{多阵列信号处理:张量分解满足压缩传感},C.R.Mecanique,338(2010),第311-320页·Zbl 1220.94018号
[32] L.-H.Lim和P.Comon,{盲多线性识别},IEEE Trans。通知。《理论》,60(2014),第1260-1280页·Zbl 1364.94139号
[33] C.Ling,J.Nie,L.Qi,Y.Ye,{单位球面上的双二次优化和半定规划松弛},SIAM J.Optim。,20(2009年),第1286-1310页·Zbl 1221.90074号
[34] P.McCullagh,《统计学中的张量方法》,查普曼和霍尔出版社,伦敦,1987年·Zbl 0732.62003号
[35] Y.Nesterov,{平方函数系统和优化问题},《高性能优化》,应用。最佳方案。33,Kluwer学术出版社,荷兰多德雷赫特,2000年,第405-440页·Zbl 0958.90090号
[36] J.Nie和L.Wang,最佳秩-(1\)张量近似的半定松弛,SIAM J.矩阵分析。申请。,35(2014),第1155-1179页·Zbl 1305.65134号
[37] A.Papachristodoulou、J.Anderson、G.Valmorbida、S.Prajna、P.Seiler和P.A.Parrilo,{it SOSTOOLS:MATLAB平方和优化工具箱},http://arxiv.org/abs/1310.4716 (2013).
[38] P.A.Parrilo,{稳健与优化中的结构化半定程序和半代数几何方法},博士论文,加州理工学院,帕萨迪纳,加利福尼亚州,2000年。
[39] P.A.Parrilo,{半代数问题的半定规划松弛},数学。程序。,96(2003),第293-320页·兹比尔1043.14018
[40] N.Shor,{\it多项式数学规划问题中获得全局极值的一种方法},Cybern。系统分析。,23(1987),第695-700页·Zbl 0654.90076号
[41] A.Smile、R.Bro和P.Geladi,《多途径分析:在化学科学中的应用》,英国奇切斯特威利出版社,2004年。
[42] A.Stegeman,{\it Degeneracy in Candecomp/Parafac and Indscal解释了几个具有两值典型秩}的三片数组,《心理测量学》,72(2007),第601-619页·Zbl 1291.62246号
[43] A.Stegeman,{Candecomp/Parafac模型}中泛型(p×q×2)阵列和发散分量的低秩近似,SIAM J.矩阵分析。申请。,30(2008),第988-1007页·Zbl 1167.15301号
[44] A.Stegeman和P.Comon,{减去最佳秩-(1)近似可能会增加张量秩},线性代数应用。,433(2010),第1276-1300页·Zbl 1198.15018号
[45] 王毅,李琦,{关于高阶超对称张量的逐次超对称秩-1分解},Numer。线性代数应用。,14(2007年),第503-519页·Zbl 1199.65150号
[46] H.Weyl,{it Das渐近线verteilungsgesetz der eignwerte linearer parieller differential gleichungen(mit einer anwendung auf die theorie der hohlraumstrahlung)},数学。《年鉴》,71(1912),第441-479页。
[47] S.J.Wright和J Nocedal,《数值优化》,第2卷,Springer,纽约,1999年·Zbl 0930.65067号
[48] 杨元庆,杨庆庆,李琦,{寻找高阶张量最佳秩一近似的性质和方法},计算。最佳方案。申请。,58(2014),第105-132页·Zbl 1321.90134号
[49] T.Zhang和G.H.Golub,{高阶张量的秩一近似},SIAM J.矩阵分析。申请。,23(2001),第534-550页·Zbl 1001.65036号
[50] X.Zhang,C.Ling,and L.Qi,{对称张量的最佳秩-1近似及相关球面优化问题},SIAM J.矩阵分析。申请。,33(2012年),第806-821页·Zbl 1269.15026号
[51] J.Zou、D.Hsu、D.Parkes和R.P.Adams,{使用谱方法的对比学习},《神经信息处理系统进展》,第26卷,麻省理工学院出版社,英国剑桥,2013年,第2238-2246页。
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。