×
里马库贾;胡萨姆·哈利勒;伯纳德·穆兰

对称张量近似问题的黎曼-牛顿优化方法。 （英文） Zbl 1481.15028号

线性代数应用。 637, 175-211 (2022).
摘要：对称张量近似问题（STA）包括通过对称秩-1张量或低对称秩线性形式幂的线性组合来近似对称张量或齐次多项式。提出了两种新的黎曼-牛顿型方法，用于复系数对称张量的低秩逼近。第一种方法通过权重和单位向量将秩张量集参数化。利用齐次多项式上非极积的性质，结合复杂优化的有效工具，我们给出了黎曼梯度和Hessian的显式且易于处理的公式，从而导致具有局部二次收敛性的牛顿迭代。我们证明了在初始点附近非亏损张量的某些正则性条件下，牛顿迭代（用信赖域格式完成）收敛到局部极小值。第二种方法是关于Veronese流形的笛卡尔积的黎曼-高斯-纽顿方法。描述了该黎曼流形切线空间的显式正交基。我们推导了黎曼梯度和黎曼-海森的高斯-纽顿近似。我们在Veronese流形上提出了一个新的收缩算子。我们分析了这些方法的数值行为，初始点由同步矩阵对角化（SMD）提供。数值实验表明，这两种方法在不同情况下都具有良好的数值性能，并与现有的最新方法进行了比较。

引用于1文件

MSC公司：

15A69号 多线性代数，张量演算
15甲18 特征值、奇异值和特征向量
53对20 局部黎曼几何
53对21 局部黎曼几何方法
第14页 半代数集与相关空间
65K10码 数值优化和变分技术
65年20月 数值算法的复杂性和性能

关键词：

对称张量分解;齐次多项式;黎曼优化;牛顿法;回缩;复杂优化;信赖域法;维罗纳管汇

软件：

坦索拉布;复杂优化工具箱;多线性引擎
PDF格式BibTeX公司 XML格式引用
\textit{R.Khouja}等人，线性代数应用。637175-211（2022年；Zbl 1481.15028）
全文： 内政部 arXiv公司

参考文献：

[1] 希区柯克，F.L.，《张量或多元数作为乘积之和的表达式》，J.Math。物理。，6, 1-4, 164-189 (1927)
[2] 亚历山大·J。；Hirschowitz，A.，《多变量多项式插值》，第4卷，201-222（1995）·Zbl 0829.14002号
[3] Chiantini，L。；Ottaviani，G。；Vannieuwenhoven，N.，关于次属秩对称张量的一般可识别性，Trans。美国数学。Soc.，369，6，4021-4042（2016）·Zbl 1360.14021号
[4] Comon，P.，《张量分解，最新技术和应用》（McWhirter，J.G.；Proudler，I.K.，《信号处理中的数学V》（2002），克拉伦登出版社：克拉伦登牛津出版社），1-24·Zbl 1014.65007号
[5] 科蒙，P。；Rajih，M.，基于特征函数的欠定混合物盲识别，专章：超宽带通信中的信号处理。专题：超宽带通信中的信号处理，信号处理。，86, 9, 2271-2281 (2006) ·Zbl 1172.65304号
[6] 德拉特豪沃，L。；De Moor，B。；Vandewalle，J.，《多重线性奇异值分解》，SIAM J.矩阵分析。申请。，21, 4, 1253-1278 (2000) ·兹比尔0962.15005
[7] Smiled，A。；R兄弟。；Geladi，P.，《多向分析及其在化学科学中的应用》（2004），John Wiley:John Wiley West Sussex，英国
[8] Khouja，R。；Mattei，P.-A。；Mourrain，B.，从矩中学习高斯混合的张量分解（2021）
[9] 奥尔曼，E.S。；马蒂亚斯，C。；Rhodes，J.A.，具有许多观测变量的潜在结构模型中参数的可识别性，《Ann.Stat.》，37，6A，3099-3132（2009）·Zbl 1191.62003号
[10] Anandkumar，A。；Ge，R。；徐，D。；卡卡德，S.M。；Telgarsky，M.，学习潜在变量模型的张量分解，J.Mach。学习。第15号决议，2773-2832（2014年）·Zbl 1319.62109号
[11] 加西亚，L.D。；斯蒂尔曼，M。；Sturmfels，B.，《贝叶斯网络的代数几何》，J.Symb。计算。，39, 3-4, 331-355 (2005) ·Zbl 1126.68102号
[12] 德拉特豪沃，L。；De Moor，B。；Vandewalle，J.，《关于高阶张量的最佳秩-1和秩-\（（R_1，R_2，…，R_n）逼近》，SIAM J.矩阵分析。申请。，21, 4, 1324-1342 (2000) ·Zbl 0958.15026号
[13] Vannieuwenhoven，N。；Vandebril，R。；Meerbergen，K.，高阶奇异值分解的一种新的截断策略，SIAM J.Sci。计算。，34、2、A1027-A1052（2012）·兹比尔1247.65055
[14] Kressner，D。；斯坦利克纳，M。；Vandereycken，B.，通过黎曼优化完成低秩张量，BIT Numer。数学。，5447-468（2014年）·Zbl 1300.65040号
[15] 卡罗尔·J·D。；Chang，J.-J.，通过Eckart-Young分解的n向泛化分析多维标度中的个体差异，《心理测量学》，35，3，283-319（1970）·Zbl 0202.19101号
[16] 陈，B。；He，S。；李，Z。；Zhang，S.，最大块改进和多项式优化，SIAM J.Optim。，22, 1, 87-107 (2012) ·Zbl 1250.90069号
[17] Harshman，R.，《PARAFAC程序的基础：“解释性”多模态因子分析的模型和条件》，加州大学洛杉矶分校工作，巴普。电话：。，16, 1-84 (1970)
[18] 科尔达·T·G。；Bader，B.W.，张量分解与应用，SIAM Rev.，51，3，455-500（2009）·Zbl 1173.65029号
[19] 埃斯皮格，M。；Hackbusch，W。；Khachatryan，A.，关于张量格式表示中交替最小二乘优化的收敛性（2015），预印本
[20] Uschmajew，A.，正则张量近似的交替最小二乘算法的局部收敛性，SIAM J.矩阵分析。申请。，33, 2, 639-652 (2012) ·Zbl 1252.65085号
[21] Hayashi，C。；Hayashi，F.，求解Parafac-model的新算法，Behaviormetrica，9，11，49-60（1982）
[22] Paatero，P.，《解决多线性问题的多线性引擎-A表驱动最小二乘程序，包括n向并行因子分析模型》，J.Compute。图表。Stat.，8，4，854-888（1999）
[23] Phan，A.-H。；蒂查夫斯克，P。；Cichocki，A.，CANDECOMP/PARAFAC的低复杂度阻尼Gauss-Newton算法，SIAM J.矩阵分析。申请。，34, 1, 126-147 (2013) ·Zbl 1365.65071号
[24] 萨瓦斯，B。；Lim，L.-H.，关于Grassmannian和张量的多线性近似的拟Newton方法，SIAM J.Sci。计算。，32, 6, 3352-3393 (2010) ·Zbl 1226.65058号
[25] Sorber，L。；Van Barel，M。；De Lathauwer，L.，张量分解的基于优化的算法：正则多元分解，秩-（（L_r，L_r、1）项分解，以及一个新的推广，SIAM J.Optim。，23, 2, 695-720 (2013) ·兹比尔1277.90073
[26] 托马西，G。；Bro，R.，拟合PARAFAC模型的算法比较，计算。统计数据分析。，50, 7, 1700-1734 (2006) ·Zbl 1445.62136号
[27] 育种，P。；Vannieuwenhoven，N.，正则张量秩逼近问题的黎曼信赖域方法，SIAM J.Optim。，28, 3, 2435-2465 (2018) ·Zbl 1397.15022号
[28] Hackbusch，W.，张量空间和数值张量微积分，计算数学中的斯普林格级数（2012），斯普林格：斯普林格-柏林-海德堡·Zbl 1244.65061号
[29] 育种，P。；Vannieuwenhoven，N.，连接分解的条件数，SIAM J.矩阵分析。申请。，39, 1, 287-309 (2018) ·Zbl 1384.49035号
[30] Sorber，L。；巴雷尔，M.V。；Lathauwer，L.D.，复变量实函数的无约束优化，SIAM J.Optim。，22, 3, 879-898 (2012) ·Zbl 1260.90150号
[31] 张，X。；Ling，C。；Qi，L.，对称张量的最佳秩1近似和相关的球面优化问题，SIAM J.矩阵分析。申请。，33, 3, 806-821 (2012) ·Zbl 1269.15026号
[32] 聂，J。；Wang，L.，最佳秩-1张量近似的半定松弛，SIAM J.矩阵分析。申请。，35, 3, 1155-1179 (2014) ·Zbl 1305.65134号
[33] Nie，J.，低秩对称张量近似，SIAM J.矩阵分析。申请。，38, 4, 1517-1540 (2017) ·Zbl 1379.65025号
[34] 基列，J。；Pereira，J.M.，对称张量分解的子空间幂方法和广义PCA（2019）
[35] Harmouch，J。；Khalil，H。；Mourrain，B.，多元Hankel矩阵的结构化低秩分解，线性代数应用。，542, 161-185 (2018) ·Zbl 1417.15044号
[36] Mourrain，B.，《矩的多项式指数分解》，Found。计算。数学。，18, 6, 1435-1492 (2018) ·Zbl 1427.14119号
[37] 科蒙，P。；Golub，G。；林，L.-H。；Mourrain，B.，《对称张量和对称张量秩》，SIAM J.矩阵分析。申请。，30, 3, 1254-1279 (2008) ·Zbl 1181.15014号
[38] Harris，J.，《代数几何：第一门课程》，数学研究生教材（1998年），纽约州纽约市斯普林格-弗拉格：斯普林格·Zbl 0920.13026号
[39] Zak，F.，《代数变体的切线和正割》，《数学专著的翻译》（1993），AMS:AMS Providence，RI·Zbl 0795.14018号
[40] Landsberg，J.，《张量：几何与应用》，《数学研究生》（2011年），美国数学学会·Zbl 1238.15013号
[41] Absil，P.-A.公司。；Mahony，R。；Sepulchre，R.，矩阵流形上的优化算法（2008），普林斯顿大学出版社：普林斯顿大学出版，新泽西州普林斯顿·Zbl 1147.65043号
[42] Kressner，D。；斯坦利克纳，M。；Vandereycken，B.，通过黎曼优化完成低秩张量，BIT Numer。数学。，54, 2, 447-468 (2014) ·Zbl 1300.65040号
[43] 阿德勒，R.L。；德迪厄，J。；Margulies，J.Y。；Martens，M。；Shub，M.，关于黎曼流形和人类脊椎几何模型的牛顿方法，IMA J.Numer。分析。，22, 3, 359-390 (2002) ·Zbl 1056.92002号
[44] 雷默特（Remmert，R.）。；Burckel，R.，《复杂函数理论》，数学研究生教材（1991年），施普林格出版社：纽约施普林格·Zbl 0780.30001号
[45] Absil，P.-A.公司。；Malick，J.，矩阵流形上的类投影收缩，SIAM J.Optim。，135-158年1月22日（2012年）·Zbl 1248.49055号
[46] Chern，J.-L。；Dieci，L.，一些矩阵分解的平滑性和周期性，SIAM J.矩阵分析。申请。，22727-792（2001年）·Zbl 0981.65048号
[47] Stewart，G.W.，《矩阵算法：第二卷：特征系统》，J.Soc.Ind.Appl。数学。(2001) ·Zbl 0984.65031号
[48] Nocedal，J。；Wright，S.，《数值优化》，Springer Series Operations Research and Financial Engineering（2006），Springer:Springer New York，NY·Zbl 1104.65059号
[49] Bjorck，A.，《最小二乘问题的数值方法》（1996），工业和应用数学学会·Zbl 0847.65023号
[50] Konstantinides，K。；姚，K.，矩阵秩确定中有效奇异值的统计分析，IEEE Trans。阿库斯特。语音信号处理。，36, 5, 757-763 (1988) ·Zbl 0850.62485号
[51] Stewart，G.W.，秩简并，SIAM J.Sci。统计计算。，5, 2, 403-413 (1984) ·Zbl 0579.65034号
[52] 韦夫利特，N。；辩论，O。；Sorber，L。；Van Barel，M。；De Lathauwer，L.，Tensorlab 3.0（2016年3月）
[53] 艾森巴德，D.，《Syzygies的几何：交换代数和代数几何的第二门课程》（2005年），施普林格出版社·Zbl 1066.14001号
[54] Absil，P.A。；Mahony，R。；特朗普夫，J.，《从外部看黎曼-海森》（Nielsen，F.；Barbaresco，F.，《信息几何科学》（2013），斯普林格-柏林-海德堡：斯普林格–柏林-海德堡-柏林，海德堡），361-368·Zbl 1323.53014号
[55] Brandwood，D.H.，复梯度算子及其在自适应阵列理论中的应用，IEE Proc。F、 Commun公司。雷达信号处理。，130, 1, 11-16 (1983)
[56] Nehari，Z.，《复杂分析导论》（1968），Allyn&Bacon·Zbl 0164.08202号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。