具有跟踪范数惩罚的低秩优化

@第{Mishra2011LowRankOW条,title={带跟踪范数惩罚的低秩优化},作者={Bamdev Mishra和Gilles Meyer以及Francis R.Bach和Rodolphe Sepulchre},期刊={ArXiv},年份={2011},体积={abs/1112.2318},网址={https://api.semanticscholar.org/CorpusID:216094396}}
本文采用一种在固定秩优化和秩一更新之间交替的算法来解决低秩跟踪范数最小化问题,并提出了一种二阶信赖域算法,该算法具有保证的二次收敛速度。

询问这篇论文
AI供电

低秩矩阵补全的黎曼秩自适应方法

提出了一种由固定秩优化、秩增加步长和秩减少步长组成的黎曼秩自适应方法,并对其应用于低秩矩阵补全问题的性能进行了探讨。

固定秩矩阵分解与黎曼低秩优化

数值实验表明,所提出的算法与最先进的算法竞争,流形优化为设计学习固定秩矩阵的机器学习算法提供了一个有效且通用的框架。

贪婪秩更新结合黎曼下降法求解低秩优化

一种秩自适应优化策略,用于寻找涉及二次目标函数的矩阵优化问题的低秩解,该目标函数可以解释为扰动梯度下降算法或有界秩矩阵簇上投影梯度算法的简单预热策略。

低阶问题的多级黎曼优化

本文介绍了一种新的多级算法,其中优化变量被约束为固定秩矩阵的黎曼流形,并使用近似Wolfe条件计算机器ε阶的解。

轨迹球上光滑凸极小化的低秩投影梯度法的收敛性及相关问题

结果表明,单位轨迹球上凸极小化的任何最优解都是欧几里得的中心,这很容易暗示标准一阶方法的局部收敛性,只使用低阶奇异值分解计算。

低秩矩阵完备的黎曼几何

针对低秩矩阵补全问题,提出了一种新的固定秩矩阵黎曼几何,并证明了由于代价函数的简单性,在给定搜索方向的情况下进行精确的线性搜索在数值上是廉价的。

大规模应用中结构化低秩矩阵学习的鞍点方法

一种新的优化方法,用于学习同样被约束在给定线性子空间中的低秩矩阵,并利用黎曼结构提出有效的一阶和二阶算法。

利用黎曼优化完成低秩矩阵

本文提出了一种新的矩阵补全算法,该算法最小化了固定秩矩阵黎曼流形上采样集上的最小二乘距离,这是在基于收缩的流形优化框架内开发的经典非线性共轭梯度的改编。

结构化低秩矩阵学习的统一框架

我们提出了一种新的优化框架,用于学习同样受限于线性子空间的低秩矩阵。利用对偶理论,我们提出了一个因式分解
...

固定秩矩阵分解与黎曼低秩优化

数值实验表明,所提出的算法与最先进的算法竞争,流形优化为设计学习固定秩矩阵的机器学习算法提供了一个有效且通用的框架。

半正定矩阵锥的低秩优化

讨论了该流形的几何性质,并导出了一种保证二次收敛的二阶优化方法,该方法为因子分解的秩提供了一些条件,以确保与原问题等价。

利用黎曼优化完成低秩矩阵

本文提出了一种新的矩阵补全算法,该算法最小化了固定秩矩阵黎曼流形上采样集上的最小二乘距离,这是在基于收缩的流形优化框架内开发的经典非线性共轭梯度的改编。

距离矩阵补全的低秩优化

本文将所考虑的问题转化为低秩半正定矩阵集上的优化问题,并提出了两种有效的低秩距离矩阵补全算法和一种确定嵌入空间维数的策略。

固定秩约束下的线性回归:黎曼方法

对基准的数值实验表明,所提出的算法与最新技术相竞争,流形优化为设计秩约束机器学习算法提供了一个通用框架。

核范数正则化线性最小二乘问题的加速近似梯度算法

为了解决这个无约束非光滑凸优化问题,特别是核范数正则化线性最小二乘问题,提出了一种加速近似梯度算法,该算法以O(1=p†)迭代和†-最优解结束。

学习大型不完备矩阵的谱正则化算法

该算法使用核范数作为正则化子,在大规模矩阵完备问题的正则化低阶解序列中,用软阈值奇异值分解(SVD)获得的元素来迭代替换缺失元素。

基于奇异值投影的保秩最小化

结果表明,SVP-Newton方法对噪声具有显著的鲁棒性,并且在更真实的幂律采样方案上对矩阵完成问题表现出令人印象深刻的性能。

固定秩半正定矩阵的回归:黎曼方法

本文研究了由定秩半正定矩阵参数化的回归模型的学习问题,提出了保持问题规模线性复杂度并具有重要不变性的算法。

用非线性逐次过松弛算法求解矩阵完备的低秩因子分解模型

提出了一种低秩因子分解模型,并构造了一种非线性逐次过松弛(SOR)算法,该算法每次迭代只需解一个线性最小二乘问题,以提高求解大规模问题的能力。