×

Tucker低秩张量优化的最优性条件。 (英语) Zbl 07786401号

摘要:张量变量优化问题广泛应用于统计学、机器学习、模式识别、信号处理、计算机视觉等领域,张量的低秩性是一种内在属性,它有助于挖掘相应的高维多路数据集中潜在但重要的结构或特征,从而引发了低秩张量优化(low rank tensor optimization,简称LRTO)的研究。对于LRTO的一般框架,优化理论中的研究很少。这促使我们研究最优性条件,特别是塔克低阶约束问题和基于塔克低秩分解的重整。值得注意的是,所有涉及的优化问题都是非凸的,甚至是不连续的,这是由于张量Tucker秩函数的复杂性,或者是在因子矩阵上施加正交性甚至群稀疏性约束的多线性分解。利用变分分析工具,特别是低秩矩阵的正规锥和矩阵流形的性质,我们提出了Tucker低秩张量优化问题的必要和/或充分最优性条件,这将丰富非凸和非光滑优化的内容。

MSC公司:

90立方 非线性规划
90立方厘米 数学规划中的最优性条件和对偶性

软件:

t产品
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Absil,宾夕法尼亚州;Mahony,R。;Sepulchre,R.,矩阵流形上的优化算法(2008),普林斯顿:普林斯顿大学出版社,普林斯顿·Zbl 1147.65043号
[2] Bi,X。;唐,X。;袁,Y。;Zhang,Y。;Annie,Q.,《统计中的张量》,《年度》。修订状态申请。,8, 1, 345-368 (2021)
[3] 坎迪斯,EJ;Recht,B.,通过凸优化实现精确矩阵补全,Found。计算。数学。,9, 6, 717-772 (2009) ·Zbl 1219.90124号
[4] 坎迪斯,EJ;Tao,T.,线性规划解码,IEEE Trans。Inf.理论,51,12,4203-4215(2005)·Zbl 1264.94121号
[5] Canyi,L.公司。;冯,J。;陈,Y。;刘伟。;林,Z。;Yan,S.,采用新张量核范数的张量稳健主成分分析,IEEE Trans。模式分析。机器。智力。,42, 4, 925-938 (2020)
[6] Che,M。;魏毅。;Yan,H.,通过幂格式和随机投影计算张量的低多线性秩近似,SIAM J.矩阵分析。申请。,41, 2, 605-636 (2020) ·Zbl 07206106号
[7] 陈,B。;Li,Z.,关于张量谱范数及其通过分块的对偶范数,计算。最佳方案。申请。,75, 609-628 (2020) ·Zbl 1441.15014号
[8] 陈,C。;Batselier,K。;于文健;Wong,N.,核化支持张量训练机,模式识别。,122 (2022)
[9] 陈,H。;Raskutti,G。;Yuan,M.,广义低秩张量回归的非凸投影梯度下降,J.马赫。学习。第20号决议,172-208(2019年)·Zbl 1483.62091号
[10] 陈,X。;潘·L。;Xiu,N.,多元回归三个稀疏优化问题的解集,J.Global Optim。(2022) ·Zbl 07762761号 ·doi:10.1007/s10898-021-01124-w
[11] Cheng,M。;Jing,L。;Michael,KN,基于张量的多视图聚类低维表示学习,IEEE Trans。图像处理。,28, 5, 2399-2414 (2019)
[12] 德拉特豪沃,L。;De Moor,B。;Vandewalle,J.,《多重线性奇异值分解》,SIAM J.矩阵分析。申请。,21, 4, 1253-1278 (2000) ·Zbl 0962.15005号
[13] De Lathauwer,L.,De Moor,B.,Vandewalle,J.:关于高阶张量的最佳秩-1和秩-\(r_1,r_2,…,r_n)逼近。SIAM J.矩阵分析。申请。21, 1324-1342 (2000) ·Zbl 0958.15026号
[14] 丁·W。;Wei,Y.,《张量的理论与计算:多维数组》(2016),纽约:Elsevier,纽约·Zbl 1380.15004号
[15] Donoho,DL,压缩传感,IEEE Trans。《信息论》,52,4,1289-1306(2006)·Zbl 1288.94016号
[16] Drakopoulos,G.,Spyrou,E.,Mylonas,P.:张量聚类:综述。2019年第14届语义和社交媒体适应与个性化国际研讨会,第1-6页(2019年)
[17] 埃尔登,L。;Savas,B.,张量最佳多线性秩逼近的扰动理论和最优性条件,SIAM J.矩阵分析。申请。,32, 4, 1422-1450 (2011) ·Zbl 1242.65076号
[18] Goldfarb,D。;秦,Z.,《稳健低秩张量恢复:模型和算法》,SIAM J.矩阵分析。申请。,35, 1, 225-253 (2014) ·Zbl 1296.65086号
[19] 郝,B。;张,A。;Cheng,G.,通过立方草图进行稀疏和低阶张量估计,IEEE Trans。信息理论,66,9,5927-5964(2020)·Zbl 1448.62072号
[20] 赫尔姆克,美国。;谢曼,MA,矩阵最小二乘距离函数的临界点,线性代数应用。,215, 2, 1-19 (1995) ·Zbl 0816.15026号
[21] 姜浩。;刘,X。;温,Z。;Yuan,Y.,流形优化简介,J.Oper。中国研究社会,8,2,199-248(2020)·Zbl 1474.49093号
[22] Janzamin,M.,Ge,R.,Kossaifi,J.,Anandkumar,A.:矩阵和张量的谱学习。已找到。Trends®马赫数。学习。12, 393-536 (2019) ·Zbl 1436.68004号
[23] 基尔默,ME;Martin,CD,三阶张量的因式分解策略,线性代数应用。,435, 3, 641-658 (2011) ·Zbl 1228.15009号
[24] 科赫,O。;Lubich,C.,动力学张量近似,SIAM J.矩阵分析。申请。,31, 5, 2360-2375 (2010) ·Zbl 1214.15017号
[25] 科尔达,TG;Bader,BW,张量分解及其应用,SIAM Rev.,51,3,455-500(2009)·Zbl 1173.65029号
[26] Kotsia,I.,Patras,I.:支持打褶机。2011年IEEE计算机视觉和模式识别会议,第633-640页(2011)
[27] Kressner,D。;斯坦利克纳,M。;Vandreycken,B.,黎曼优化的低秩张量完备,BIT Numer。数学。,54, 2, 447-468 (2014) ·Zbl 1300.65040号
[28] 李,X。;Da,X。;周,H。;Li,L.,Tucker张量回归和神经成像分析,Stat.Biosci。,10, 520-545 (2018)
[29] 李,X。;Song,W。;Xiu,N.,秩约束矩阵优化的最优性条件,J.Oper。中国研究社会,7,2,285-301(2019)·Zbl 1438.90272号
[30] Lian,H.,凸支持张量机的学习率,IEEE Trans。神经网络。学习。系统。,32, 8, 3755-3760 (2021)
[31] Liu,J.、Musialski,P.、Wonka,P.和Ye,J.:估计视觉数据中缺失值的张量补全。2009年IEEE第12届国际计算机视觉会议,第2114-2121页(2009)
[32] Liu,J.,Zhu,C.,Long,Z.,Liu,Y.:张量回归。已找到。Trends®马赫数。学习。14(4), 379-565 (2021)
[33] 刘,Y。;刘杰。;Long,Z。;朱,C.,《用于数据分析的张量计算》(2022),柏林:施普林格出版社,柏林
[34] Minster,R。;AK州赛巴巴;Kilmer,ME,塔克格式低阶张量分解的随机算法,SIAM J.Math。数据科学。,2, 1, 189-215 (2020) ·Zbl 1484.65091号
[35] Oseledets,I.,张量-应变分解,SIAM J.Sci。计算。,33, 5, 2295-2317 (2011) ·Zbl 1232.15018号
[36] 齐,L。;陈,H。;Chen,Y.,Tensor特征值及其应用(2018),柏林:施普林格出版社,柏林·Zbl 1398.15001号
[37] 齐,L。;陈,Y。;Bakshi,M。;Zhang,X.,三阶张量的三重分解和张量恢复,SIAM J.矩阵分析。申请。,42, 1, 299-329 (2021) ·Zbl 1467.15020号
[38] 齐,L。;Luo,Z.,《张量分析:谱理论和特殊张量》(2017),费城:SIAM出版社,费城·Zbl 1370.15001号
[39] Rabanser,S.,Shchur,O.,Günnemann,S.:张量分解及其在机器学习中的应用简介。arXiv预印本,arXiv:1711.10781(2017)
[40] Raskutti,G。;袁,M。;Chen,H.,高维多响应张量回归的凸正则化,Ann.Stat.,47,3,1554-1584(2019)·兹比尔1428.62324
[41] Rockafellar,RT公司;湿地,B。;Roger,J.,变分分析(2013),柏林:施普林格出版社,柏林·Zbl 0888.49001号
[42] Russell Luke,D.,秩约束集的Prox正则性和算法含义,J.Math。成像视觉。,47, 3, 231-238 (2013) ·Zbl 1311.90142号
[43] 施耐德,R。;Uschmajew,A.,通过Łojasiewicz不等式在各种低秩矩阵上投影线性搜索方法的收敛结果,SIAM J.Optim。,25, 1, 622-646 (2015) ·Zbl 1355.65079号
[44] 新泽西州西迪罗普洛斯;德拉特豪沃,L。;肖,F。;黄,K。;Papalexakis,EE;Faloutsos,C.,信号处理和机器学习的张量分解,IEEE Trans。信号处理。,65, 13, 3551-3582 (2017) ·Zbl 1415.94232号
[45] 宋,Q。;Ge,H.等人。;Caverley,J。;Xia,H.,大数据分析中的张量完成算法,ACM Trans。知识。发现。数据,13,1,1-48(2019年)
[46] Sun,W.W.,Hao,B.,Li,L.:现代统计学习中的张量。威利统计参考:在线统计参考,第1-25页(2021年)
[47] 太阳,WW;Li,L.,STORE:稀疏张量反应回归和神经成像分析,J.Mach。学习。决议,18,1-37(2017)·Zbl 1442.62773号
[48] 陶,D。;李,X。;西新东。;魏明,H。;马来亚银行,SJ,监督张量学习,Knowl。信息系统。,13, 1-42 (2007)
[49] Vannieuwenhoven,N。;Vandebril,R。;Meerbergen,K.,高阶奇异值分解的一种新截断策略,SIAM J.Sci。计算。,34、2、A1027-A1052(2012)·Zbl 1247.65055号
[50] 王,R。;秀,N。;Toh,K-C,群稀疏多项式logistic回归的子空间二次正则化方法,计算。最佳方案。申请。,79, 531-559 (2021) ·兹比尔1472.62122
[51] 俞晓彤;Luo,Z.,用于从压缩测量中减去背景的稀疏张量优化方法,多媒体工具应用。,80, 26657-26682 (2021)
[52] 俞晓彤;罗,Z。;齐,L。;Yanwei,X.,SLRTA:基于稀疏和低阶张量的互联网流量异常检测方法,神经计算,434295-314(2021)
[53] 杨伟(Yang,W.)。;张,L。;Song,R.,黎曼流形上非线性规划问题的最优性条件,Pacific J.Optim。,10, 2, 415-434 (2014) ·Zbl 1322.90096号
[54] 袁,M。;Zhang,C-H,关于通过核范数极小化实现张量完备,Found。计算。数学。,16, 1031-1068 (2016) ·Zbl 1378.90066号
[55] 张,A。;罗,Y。;Raskutti,G。;Yuan,M.,ISLET:通过重要性草图快速优化低阶张量回归,SIAM J.Math。数据科学。,2, 2, 444-479 (2020) ·兹比尔1484.65095
[56] Zhao,Q.,Zhou,G.,Xie,S.,Zhang,L.,Cichocki,A.:张量环分解。arXiv预印本,arXiv:1606.05535(2016)
[57] 周,B。;Song,B。;哈桑,MM;Alamri,A.,用于人群密度估计的多线性秩支持张量机,工程应用。Artif公司。智力。,72, 1, 382-392 (2018)
[58] 周,H。;李,L。;Zhu,H.,Tensor回归及其在神经影像数据分析中的应用,美国统计协会,108,502,540-552(2013)·Zbl 06195959号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。