×

计算张量强正交分解的不精确增广拉格朗日方法。 (英语) Zbl 1441.15019号

摘要:张量的强正交分解是一个一阶张量分解,任何二阶张量的每个模式中的两个分量向量要么共线要么正交。具有少量秩一张量的强正交分解在应用中是有利的,它可以表示为与正交因子矩阵和稀疏张量的矩阵张量乘法;这种具有最小秩一张量的分解是一种强正交秩分解。任何张量都具有强正交秩分解。在本文中,计算强正交秩分解等价地重新表述为求解优化问题。与张量秩分解问题的常用优化格式的适定性不同,张量的强正交秩分解的优化格式是适定性的。优化问题的每个可行解都给出张量的强正交分解;全局优化器给出了一个很难计算的强正交秩分解。提出了一种非精确增广拉格朗日方法来求解优化问题。该增广拉格朗日子问题采用近似交替极小化方法求解,其优点是每个子问题都有一个封闭的公式解,并且在迭代过程中因子矩阵保持正交。因此,该算法始终可以返回可行解,从而可以对任何给定张量进行强正交分解。在没有进一步假设的情况下,建立了该算法到临界点的全局收敛性。进行了大量的数值实验,结果表明该算法在效率和精度上都很有希望。

MSC公司:

第15页第69页 多线性代数,张量演算
15A03号 向量空间,线性相关性,秩,线性
90C26型 非凸规划,全局优化
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 绝对值,P-A;侯赛尼,S。;侯赛尼,S。;莫杜霍维奇,B。;Uschmajew,A.,非光滑黎曼优化问题集,非光滑优化及其应用,国际数值数学系列,1-15(2019),Cham:Birkhäuser,Cham·Zbl 1423.49012号
[2] 绝对值,P-A;Mahony,R。;Sepulchre,R.,矩阵流形上的优化算法(2008),普林斯顿:普林斯顿大学出版社,普林斯顿·Zbl 1147.65043号
[3] Anandkumar,A。;Ge,R。;徐,D。;卡卡德,SM;Telgarsky,M.,学习潜在变量模型的张量分解,J.Mach。学习。第15号决议,2773-2832(2014年)·Zbl 1319.62109号
[4] Attouch,H。;博尔特,J。;Svaiter,BF,半代数和驯服问题下降方法的收敛性:近似算法,前向-后向分裂,正则高斯-赛德尔方法,数学。程序。,137, 91-129 (2013) ·Zbl 1260.49048号 ·doi:10.1007/s10107-011-0484-9
[5] Bader,B.W.,Kolda,T.G.:MATLAB Tensor工具箱2.6版,2015年2月。网址:http://www.sandia.gov/tgkolda/Tensor工具箱/
[6] Batselier,K。;刘,H。;Wong,N.,将张量分解为有限正交秩-1项之和的构造性算法,SIAM J.矩阵分析。申请。,36, 1315-1337 (2015) ·Zbl 1323.65039号 ·数字对象标识代码:10.1137/141000658
[7] Bertsekas,DP,约束优化和拉格朗日乘子方法(1982),贝尔蒙特:Athena Scientific,贝尔蒙特·Zbl 0572.90067号
[8] Bochnak,J。;Coste,M。;罗伊,M-F,《实代数几何》。Ergebnisse der Mathematik und ihrer Grenzgebiete(1998),柏林:施普林格出版社,柏林·Zbl 0912.14023号
[9] 博尔特,J。;萨巴赫,S。;Teboulle,M.,非凸和非光滑问题的近似交替线性化最小化,数学。程序。,146, 459-494 (2014) ·Zbl 1297.90125号 ·doi:10.1007/s10107-013-0701-9
[10] 陈,J。;Saad,Y.,关于张量SVD和张量的最优低秩正交逼近,SIAM J.矩阵分析。申请。,30, 1709-1734 (2009) ·Zbl 1184.65043号 ·doi:10.1137/070711621
[11] 陈,Y。;Ye,Y。;Wang,M.,一类稀疏优化问题的近似硬度,J.Mach。学习。决议,20,1-27(2019)·兹比尔1484.68064
[12] Comon,P.,使用四阶累积量识别MA,信号处理。,26, 381-388 (1992) ·Zbl 0768.93019号 ·doi:10.1016/0165-1684(92)90122-D
[13] Comon,P.,独立成分分析,一个新概念?,信号处理。,36, 287-314 (1994) ·Zbl 0791.62004号 ·doi:10.1016/0165-1684(94)90029-9
[14] 德·拉绍尔。;De Moor,B。;Vandewalle,J.,《多重线性奇异值分解》,SIAM J.矩阵分析。申请。,21, 1253-1278 (2000) ·Zbl 0962.15005号 ·doi:10.1137/S0895479896305696
[15] 德席尔瓦,V。;Lim,L-H,张量秩和最佳低秩逼近问题的适定性,SIAM J.矩阵分析。申请。,30, 1084-1127 (2008) ·Zbl 1167.14038号 ·数字对象标识码:10.1137/06066518X
[16] Donoho,DL,对于大多数大型欠定线性方程组,最小范数解也是最稀疏解,Commun。纯应用程序。数学。,59, 797-829 (2006) ·Zbl 1113.15004号 ·doi:10.1002/cpa.20132年
[17] Franc,A.:《阿尔盖·布里克·德斯·Multitaleaux练习曲:阿尔盖·布雷·坦索里尔的伙伴》,《博士学位》,《体育统计》。蒙彼利埃大学第二分校,蒙彼利耶分校(1992年)
[18] Golub,生长激素;Van Loan,CF,矩阵计算(2013),巴尔的摩:约翰霍普金斯大学出版社,巴尔的摩尔·Zbl 1268.65037号
[19] Hástad,J.,张量秩为NP-完全,J.算法,11644-654(1990)·Zbl 0716.65043号 ·doi:10.1016/0196-6774(90)90014-6
[20] 希勒,CJ;Lim,L-H,大多数张量问题都是NP-hard,J.ACM,60,6,1-39(2013)·Zbl 1281.68126号 ·doi:10.1145/2512329
[21] 喇叭,RA;Johnson,CR,矩阵分析(1985),纽约:剑桥大学出版社,纽约·Zbl 0576.15001号
[22] Hu,S.:张量强正交秩的界,修订稿(2019)
[23] 胡,S。;Li,G.,张量最佳秩一近似下高阶幂方法的收敛速度分析,Numer。数学。,140, 993-1031 (2018) ·Zbl 1404.65035号 ·doi:10.1007/s00211-018-0981-3
[24] Ishteva,M。;绝对值,P-A;Van Dooren,P.,《对称张量最佳低多线性秩逼近的雅可比算法》,SIAM J.Matrix Ana。申请。,34, 651-672 (2013) ·Zbl 1273.15031号 ·数字对象标识码:10.1137/1085743X
[25] 江,B。;Dai,YH,Stiefel流形优化的约束保持更新方案框架,数学。程序。,153535-575(2015)·Zbl 1325.49037号 ·doi:10.1007/s10107-014-0816-7
[26] 约旦,C.,Essai sur la géométrieàn dimensions,公牛。社会数学。,3, 103-174 (1875) ·JFM 07.0457.01号
[27] Kolda,TG,正交张量分解,SIAM J.矩阵分析。申请。,23, 243-255 (2001) ·Zbl 1005.15020号 ·doi:10.1137/S0895479800368354
[28] Kolda,TG,正交秩张量分解的Eckart-Young低阶近似定理扩展可能性的反例,SIAM J.矩阵分析。申请。,24, 762-767 (2003) ·Zbl 1044.15020号 ·doi:10.1137/S0895479801394465
[29] 科尔达,TG;Bader,BW,张量分解与应用,SIAM Rev.,51,455-500(2009)·Zbl 1173.65029号 ·doi:10.1137/07070111X
[30] Kroonenberg,项目经理;De Leeuw,J.,用交替最小二乘算法对三模数据进行主成分分析,《心理测量学》,45,69-97(1980)·Zbl 0431.62035号 ·doi:10.1007/BF02293599
[31] Kruskal,JB,《三元数组:三线性分解的秩和唯一性及其在算术复杂性和统计学中的应用》,《线性代数应用》。,18, 95-138 (1977) ·Zbl 0364.15021号 ·doi:10.1016/0024-3795(77)90069-6
[32] Landsberg,JM,《张量:几何与应用》,《数学研究生》(2012),普罗维登斯:AMS,普罗维登斯·Zbl 1238.15013号
[33] Leibovic,D。;Sabatier,R.,用于多路数据主成分分析的双向数组的奇异值分解,PTA-k,线性代数应用。,269, 307-329 (1998) ·Zbl 0889.65035号 ·doi:10.1016/S0024-3795(97)81516-9
[34] Liu,Y.F.,Dai,Y.H.,Luo,Z.Q.:关于干扰对准中泄漏干扰最小化的复杂性。2011年IEEE第12届无线通信信号处理进展国际研讨会,第471-475页(2011年)
[35] 曼加索里安,OL;Fromovitz,S.,《存在等式和不等式约束的Fritz-John必要最优性条件》,J.Math。安娜。申请。,7, 34-47 (1967) ·Zbl 0149.16701号
[36] 马丁,CDM;Van Loan,CF,计算正交张量分解的Jacobi型方法,SIAM J.矩阵分析。申请。,30, 1219-1232 (2008) ·Zbl 1168.15025号 ·数字对象标识代码:10.1137/060655924
[37] Nie,J.,生成多项式和对称张量分解,发现。计算。数学。,17, 423-465 (2017) ·Zbl 1381.15017号 ·doi:10.1007/s10208-015-9291-7
[38] Robeva,E.,对称张量的正交分解,SIAM J.矩阵分析。申请。,第37页,第102页(2016年)·数字对象标识代码:10.1137/140989340
[39] Rockafellar,RT,拉格朗日乘数和最优化,SIAM Rev.,35,183-238(1993)·Zbl 0779.49024号 ·数字对象标识代码:10.1137/1035044
[40] Rockafellar,RT公司;Wets,R.,变分分析。Grundlehren der Mathematischen Wissenschaften(1998),柏林:施普林格出版社,柏林·Zbl 0888.49001号
[41] 张,T。;Golub,GH,高阶张量的秩一近似,SIAM J.矩阵分析。申请。,23, 534-550 (2001) ·兹比尔1001.65036 ·doi:10.1137/S0895479899352045
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。