广义张量秩一逼近的交替最小二乘法的全局收敛性

@文章{Wang2014OnTG,title={关于广义张量秩一逼近的交替最小二乘法的全局收敛性},author={Liqi Wang和Moody T.Chu},期刊={SIAM J.矩阵分析应用},年份={2014},体积={35},页码={1058-1072},网址={https://api.semanticscholar.org/CorpusID:15610065}}
本文通过证明对于几乎所有张量,交替最小二乘法生成的用于秩一近似的迭代全局收敛,部分解决了缺失部分。

本文中的表格

高阶张量秩一逼近的交替最小二乘优化的收敛性

在该分析中,重点研究了一级近似问题的ALS算法的全局收敛性和收敛速度,并证明了ALS方法可以次线性收敛、Q-lin Early收敛,甚至Q-超线性收敛。

正交低秩张量逼近:交替最小二乘法及其全局收敛性

对传统的高阶幂方法进行了改进,通过极分解解决了所需的正交性问题,并证明了对于几乎所有张量,正交交替最小二乘法都是全局收敛的。

张量空间中秩一截断最速下降方向的一些结果

本文对利用贪婪秩一方法寻找矩阵或张量优化任务低秩解的方法进行了概念上的回顾,并提供了一些新的见解。

交替方向法的收敛性分析:一个通用框架及其在张量近似中的应用

提出了一个可用于证明多种交替方向方法收敛性的通用框架,并演示了其在各种重要算法中的应用。

低秩正交张量近似的交替极分解方法的线性收敛性

提出了经典APD的改进型iAPD,它具有整体次线性收敛性,其显式收敛速度比优化中常用的一阶方法的O(1/k)更尖锐。

关于高阶正交迭代的收敛性

摘要高阶正交迭代(HOOI)被广泛用于寻找张量的最佳低多线性秩逼近。然而,它的趋同仍然是一个悬而未决的问题。

交替最小二乘法作为移动子空间校正

这项工作能够提供计算矩形矩阵的优势奇异子空间的数值代数双边块幂法的渐近收敛速度的另一种概念上简单的推导。

张量最佳秩一近似下高阶幂方法的收敛速度分析

证明了对于阶数至少为3的正交可分解张量,HOPM生成的序列总是全局收敛和R-线性收敛,并且对于几乎所有张量,所有奇异向量元组都是非退化的,因此,HOPM“典型地”表现出全局R-线性收敛速度。

张量秩与最佳低秩逼近问题的不适定性

有人认为,解决这个问题的朴素方法注定会失败,因为与矩阵不同,3阶或更高阶张量可能无法获得最佳秩r近似,并且提出了一种在不存在真解的情况下使用弱解来克服低阶近似问题不适定性的自然方法。

关于高阶超对称张量的最佳秩1逼近

结果表明,上述方法的对称版本在由所述张量诱导的泛函的凸性(或凹性)假设下收敛,这些假设在实际应用中经常得到满足。

关于高阶张量的最佳秩-1和秩-(R1,R2,…,RN)逼近

矩阵的最佳秩-R逼近问题的一个多线性推广,即在最佳最小二乘意义下,由具有预先指定的列秩值、行秩值等的张量逼近给定的高阶张量。

正则张量逼近的交替最小二乘算法的局部收敛性

建立了用交替最小二乘算法计算标准低阶张量近似(PARAFAC,CANDECOMP)的局部收敛定理。主要假设是

谱约束最小二乘矩阵逼近的投影梯度法

受谱约束的各类实矩阵和对称矩阵的最小二乘近似计算问题具有共同的结构。本文描述了

高阶张量的秩一逼近

奇异值分解在工程和统计应用中得到了广泛的应用,研究了这种分解的某些性质以及数值算法。

柱状正交因子矩阵的正则多元分解

提出了基于同时矩阵对角化和交替最小二乘的正交约束形式的CPD方法,并给出了因子矩阵为列正交矩阵时张量最优低阶近似存在性的简单证明。