马丁·莫伦坎普。 规范张量近似问题中沼泽的动力学。 （英语） Zbl 1435.65032号 SIAM J.应用。动态。系统。 18，第3期，1293-1333（2019）. 摘要：将多元函数/张量近似为可分离函数/张量计之和的能力非常有用。不幸的是，基于优化的算法经常会表现出异常的瞬态行为，非正式地称为瞬态沼泽，当误差在多次迭代中以极小的数量减少，但随后减少得更快。几十年来，这种沼泽一直是用户的祸根，其原因也是个谜。在这里，我们分析了一个模型问题（试图恢复一个秩-2张量的问题）和其中出现的一些示例沼泽的动力学。我们发现瞬态沼泽是由鞍状本质不连续性引起的，我们称之为本质鞍。从基本鞍座下降被限制在陡峭的山谷中，这会导致算法曲折前进，进展缓慢。基本鞍座是一种令人惊讶的机制，不符合标准分析，这解释了为什么它们很难识别。 引用于1文件 MSC公司： 65日第15天 函数逼近算法 15A69号 多线性代数，张量演算 37号30 数值分析中的动力系统 65K10码 数值优化和变分技术 关键词：张量近似;交替最小二乘正则张量格式;沼泽;基本鞍座 软件：多线性引擎 PDF格式BibTeX公司 XML格式引用 \文本｛M.J.Mohlenkamp｝，SIAM J.Appl。动态。系统。18，第3号，1293--1333（2019；Zbl 1435.65032） 全文： 内政部 参考文献： [1] E.Acar、D.M.Dunlavy和T.G.Kolda，一种用于拟合正则张量分解的可扩展优化方法，化学计量学杂志，25（2011），第67-86页，https://doi.org/10.1002/cem.1335。 [2] G.Beylkin和M.J.Mohlenkamp，高维数值算子微积分，程序。国家。阿卡德。科学。美国，99（2002），第10246-10251页，https://doi.org/10.1073/pnas.112329799。 ·Zbl 1008.65026号 [3] G.Beylkin和M.J.Mohlenkamp，高维数值分析算法，SIAM J.科学。计算。，26（2005），第2133-2159页，https://doi.org/10.1137/040604959。 ·Zbl 1085.65045号 [4] P.繁殖，张量分解的数值和统计方面，博士论文，柏林理工大学，德国柏林，2017年，http://personal-homepages.mis.mpg.de/breding/breding_dissertation.pdf。 ·Zbl 1365.65092号 [5] P.Breiding和N.Vannieuwenhoven，连接分解的条件数，SIAM J.矩阵分析。申请。，39（2018），第287-309页，https://doi.org/10.1137/17M1142880。 ·Zbl 1384.49035号 [6] P.Breiding和N.Vannieuwenhoven，黎曼-高斯-纽顿方法的收敛性分析及其与几何条件数的关系，申请。数学。莱特。，78（2018），第42-50页，https://doi.org/10.1016/j.aml.2017.10.009。 ·Zbl 1381.65043号 [7] P.Breiding和N.Vannieuwenhoven，正则张量秩逼近问题的黎曼信赖域方法、SIAM J.Optim.、。，28（2018），第2435-2465页，https://doi.org/10.1137/17M114618X。 ·Zbl 1397.15022号 [8] R.Bro，食品工业中的多途径分析：模型、算法和应用1998年，荷兰阿姆斯特丹阿姆斯特丹范阿姆斯特丹大学博士论文。 [9] J.Buczyníski和J.M.Landsberg，关于第三正割变种，《代数组合》，40（2014），第475-502页，https://doi.org/10.1007/s10801-013-0495-0。 ·Zbl 1325.14069号 [10] P.Comon、X.Luciani和A.L.F.de Almeida，张量分解、交替最小二乘和其他故事，化学计量学杂志，23（2009），第393-405页，https://doi.org/10.1002/cem.1236。 [11] V.de Silva和L.-H.Lim，张量秩与最佳低秩逼近问题的适定性，SIAM J.矩阵分析。申请。，30（2008），第1084-1127页，https://doi.org/10.1137/06066518X。 ·Zbl 1167.14038号 [12] H.De Sterck，正则张量分解的非线性GMRES优化算法，SIAM J.科学。计算。，34（2012），第A1351-A1379页，https://doi.org/10.1137/10835530。 ·Zbl 1253.15035号 [13] H.De Sterck和K.Miller，低阶正则张量分解的自适应代数多重网格算法，SIAM J.科学。计算。，35（2013），第B1-B24页，https://doi.org/10.1137/10855934。 ·Zbl 1264.65045号 [14] H.De Sterck和M.Winlaw，秩-（R）正则张量逼近的非线性预处理共轭梯度算法，数字。线性代数应用。，22（2015），第410-432页，https://doi.org/10.1002/nla.1963。 ·兹比尔1363.65041 [15] M.Espig和W.Hackbusch，正则张量格式张量有效逼近的正则化牛顿方法，数字。数学。，122（2012），第489-525页，https://doi.org/10.1007/s00211-012-0465-9。 ·兹比尔1264.65087 [16] M.Espig、W.Hackbusch、T.Rohwedder和R.Schneider，定秩初等张量和的变分法，数字。数学。，122（2012），第469-488页，https://doi.org/10.1007/s00211-012-0464-x。 ·Zbl 1259.65090号 [17] X.Gong、M.J.Mohlenkamp和T.R.Young，用秩-1张量拟合秩-\textup2张量的优化布局，SIAM J.应用。动态。系统。，17（2018），第1432-1477页，https://doi.org/10.1137/17M112213X。 ·Zbl 1398.65138号 [18] W.哈克布什，（d）维牛顿势的有效卷积，数字。数学。，110（2008），第449-489页，https://doi.org/10.1007/s00211-008-0171-9。 ·Zbl 1161.65018号 [19] R.A.Harshman，PARAFAC程序的基础：“解释性”多模因子分析的模型和条件《语音学16工作论文》，加州大学洛杉矶分校，加利福尼亚州洛杉矶市，1970年，http://www.psychology.uwo.ca/faulty/harshman/wpppfac0.pdf。 [20] P.Hopke、P.Paatero、H.Jia、R.Ross和R.Harshman，三元（PARAFAC）因子分析：检查和比较适用于病态数据的替代计算方法化学计量学情报。实验室系统。，43（1998），第25-42页，https://doi.org/10.1016/S0169-7439（98）00077-X。 [21] A.S.户主，非对称矩阵的酉三角化，J.协会计算。机器。，5（1958年），第339-342页，https://doi.org/10.1145/320941.320947。 ·Zbl 0121.33802号 [22] V.A.Kazeev和E.E.Tyrtyshnikov，张量正则逼近问题中Hessian的结构和Newton方法的有效实现，Zh。维奇尔。Mat.Mat.Fiz.公司。，50（2010），第979-998页，https://doi.org/10.1134/S0965542510060011。 ·Zbl 1224.65117号 [23] W.P.Krijnen、T.K.Dijkstra和A.Stegeman，CANDECOMP/PARAFAC模型中最优解的不存在性和“简并”的发生《心理测量学》，73（2008），第431-439页，https://doi.org/10.1007/s11336-008-9056-1。 ·Zbl 1301.62121号 [24] S.E.Leurgans、R.T.Ross和R.B.Abel，三向阵列的分解，SIAM J.矩阵分析。申请。，14（1993），第1064-1083页，https://doi.org/10.1137/0614071。 ·兹比尔0788.65145 [25] N.李，张量分解的ALS变量及其应用2013年，纽约波茨坦克拉克森大学博士论文。 [26] N.Li、S.Kindermann和C.Navasca，正则化交替最小二乘张量分解方法的一些收敛性结果，线性代数应用。，438（2013），第796-812页，https://doi.org/10.1016/j.laa.2011.12.002。 ·Zbl 1261.65041号 [27] N.McClatchy，张量：一种自适应逼近算法、方向收敛性和连通性，博士论文，俄亥俄大学，俄亥俄州雅典，2018，http://rave.ohiolink.edu/etdc/view？acc_num=ohiou1520508234977924。 [28] B.C.Mitchell和D.S.Burdick，缓慢收敛的PARAFAC序列：沼泽和双因子退化《化学计量学杂志》，8（1994），第155-168页，https://doi.org/10.1002/cem.1180080207。 [29] M.J.Mohlenkamp，多线性拟合的Musings，线性代数应用。，438（2013），第834-852页，https://doi.org/10.1016/j.laa.2011.04.019。 ·Zbl 1258.15010号 [30] M.J.Mohlenkamp和L.Monzoán，可分函数的三角恒等式和和，数学。Intelligencer，27（2005），第65-69页，https://doi.org/10.1007/BF02985795。 ·Zbl 1189.26003号 [31] C.Navasca、L.D.Lathauwer和S.Kinderman，张量分解的沼泽缩减技术，《第16届欧洲信号处理会议记录》（EUSIPCO 2008），瑞士洛桑，2008，http://ieeexplore.ieee.org/document/7080724/。 [32] P.Paatero，三元“PARAFAC”因子分析的加权非负最小二乘算法化学计量学情报。实验室系统。，38（1997），第223-242页，https://doi.org/10.1016/S0169-7439(97)00031-2. [33] P.Paatero，多线性引擎–一个用于解决多线性问题的表驱动最小二乘程序，包括双向平行因子分析模型，J.计算。图表。统计学。，8（1999），第854-888页，https://doi.org/10.2307/1390831。 [34] P.Paatero，退化PARAFAC模型的构造与分析《化学计量学杂志》，14（2000），第285-299页，https://doi.org/10.1002/1099-128X（200005/06）14:3 [35] A.-H.Phan、P.Tichavskyá和A.Cichocki，CANDECOMP/PARAFAC的低复杂度阻尼Gauss-Newton算法，SIAM J.矩阵分析。申请。，34（2013），第126-147页，https://doi.org/10.1137/100808034。 ·兹比尔1365.65071 [36] M.Rajih、P.Comon和R.A.Harshman，增强型线搜索：一种加速PARAFAC的新方法，SIAM J.矩阵分析。申请。，30（2008），第1128-1147页，https://doi.org/10.1137/06065577。 ·Zbl 1168.65313号 [37] W.S.Rayens和M.C.Mitchell，双因子简并与PARAFAC的稳定性化学计量学情报。实验室系统。，38（1997），第173-181页。 [38] M.Razaviyayn、M.Hong和Z.-Q.Luo，非光滑优化分块逐次极小化方法的统一收敛性分析、SIAM J.Optim.、。，23（2013），第1126-1153页，https://doi.org/10.1137/120891009。 ·Zbl 1273.90123号 [39] L.Sorber、I.Domanov、M.Van Barel和L.De Lathauwer，张量优化的精确线平面搜索，计算。最佳方案。申请。，63（2016），第121-142页，https://doi.org/10.1007/s10589-015-9761-5。 ·Zbl 1361.90046号 [40] L.Sorber、M.Van Barel和L.De Lathauwer，基于优化的张量分解算法：正则多元分解、秩-（L_r，L_r、1）项分解和一种新的推广、SIAM J.Optim.、。，23（2013），第695-720页，https://doi.org/10.1137/120868323。 ·Zbl 1277.90073号 [41] A.Stegeman，CANDECOMP/PARAFAC中秩为（p+1）的数组的退化解释或更高《心理测量学》，71（2006），第483-501页，https://doi.org/10.1007/s11336-004-1266-6。 ·Zbl 1306.62504号 [42] A.Stegeman，CANDECOMP/PARAFAC和INDSCAL中几个具有二值典型秩的三片阵列的简并性《心理测量学》，72（2007），第601-619页，https://doi.org/10.1007/s11336-007-9022-3。 ·Zbl 1291.62246号 [43] A.Stegeman，CANDECOMP/PARAFAC模型中通用阵列和发散分量的低阶近似，SIAM J.矩阵分析。申请。，30（2008），第988-1007页，https://doi.org/10.1137/050644677。 ·Zbl 1167.15301号 [44] A.Stegeman，CANDECOMP/PARAFAC：从分散组件到块项分解，SIAM J.矩阵分析。申请。，33（2012），第291-316页，https://doi.org/10.1137/10825327。 ·Zbl 1250.65062号 [45] A.Stegeman，作为低阶张量近似极限的三向Jordan标准形，SIAM J.矩阵分析。申请。，34（2013），第624-650页，https://doi.org/10.1137/120875806。 ·Zbl 1273.15013号 [46] A.Stegeman，找出三向CANDECOMP/PARAFAC中发散分量的极限——证明其实际优点，计算。统计师。数据分析。，75（2014），第203-216页，https://doi.org/10.1016/j.csda.2014.02.010。 ·Zbl 1506.62171号 [47] A.Stegeman和L.De Lathauwer，一种避免通用阵列CANDECOMP/PARAFAC模型中分叉分量的方法，SIAM J.矩阵分析。申请。，30（2009），第1614-1638页，https://doi.org/10.1137/070692121。 ·Zbl 1194.65027号 [48] G.Tomasi和R.Bro，PARAFAC和缺失值化学计量学情报。实验室系统。，75（2005），第163-180页，https://doi.org/10.1016/j.chemolab.2004.07.003。 [49] G.Tomasi和R.Bro，PARAFAC模型拟合算法的比较，计算。统计师。数据分析。，50（2006），第1700-1734页，https://doi.org/10.1016/j.csda.2004.11.013。 ·Zbl 1445.62136号 [50] A.Uschmajew，Stiefel流形上凸最大化问题的适定性和正交张量积近似，数字。数学。，115（2010），第309-331页，https://doi.org/10.1007/s00211-009-0276-9。 ·Zbl 1192.65086号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。