×
Kuang、Shenfen；赵宏阳；李，恰

正则秩约束矩阵补全的优化近端交替插补。 （英语） Zbl 1433.65085号

J.计算。申请。数学。 371，文章ID 112679，19 p.（2020）.
摘要：在科学和工程的许多领域中，存在缺失数据的低阶近似是普遍存在的。作为一个NP-hard问题，谱正则化（例如核范数、Schatten p-范数）被广泛使用。然而，由于变量的秩未知和全秩奇异值分解（SVD），直接求解该问题可能需要大量的计算。双线性因子分解是高效的，并且有效地得益于快速的数值优化。然而，现有的大多数方法都需要明确的秩知识，并且往往趋于平缓或过拟合。为了平衡并利用两者，我们在正则化秩约束条件下构造了矩阵完备问题。我们将这个问题放宽到具有最大化最小化（MM）的代孕者身上。通过使用最近邻交替最小化方法来优化相应的代理，我们提出了一种高效准确的算法，称为优化最近邻交替插补（MPA-IMPUTE）算法。该方法用最新估计值迭代替换每一步的缺失数据，只需简单的矩阵计算和小规模SVD。理论上，该方法在温和的条件下能够收敛到稳定点。此外，该方法可以推广到一类非凸正则化问题。在合成数据和真实数据集上的大量实验证明了我们方法的优越性能。

引用于1文件

MSC公司：

65层55 低阶矩阵逼近的数值方法；矩阵压缩
15A83号 矩阵完成问题

关键词：

矩阵完成；双线性因子分解；优化最小化；近端交替最小化；核规范；非凸正则化

软件：

softImpute软件；RTRMC公司；电影镜头
PDF格式BibTeX公司 XML格式引用
\textit{S.Kuang}等人，J.Compute。申请。数学。371，文章ID 112679，19 p.（2020；Zbl 1433.65085）
全文： 内政部

参考文献：

[1] Koren，Y。；贝尔·R。；Volinsky，C.，推荐系统的矩阵分解技术，IEEE计算。，42, 8, 30-37 (2009)
[2] 胡，Y。；张，D。；Ye，J。；李，X。；He，X.，通过截断核范数正则化快速准确地完成矩阵，IEEE Trans。模式分析。机器。智力。，35, 9, 2117-2130 (2013)
[3] 王玉霞。；Lee，C.M。；Cheong，L.-F。；Toh，K.C.，《使用最近交替鲁棒子空间最小化实现实用矩阵补全和损坏恢复》，《国际计算杂志》。视觉。，111315-344（2015年）·Zbl 1398.68463号
[4] 布坎南，A.M。；Fitzgibbon，A.W.，用于具有缺失数据的矩阵分解的阻尼牛顿算法，（IEEE计算机视觉和模式识别会议，第2卷（2005）），316-322
[5] Wu，L。；金·R。；Jain，A.K.，图像检索的标记完成，IEEE Trans。模式分析。机器。智力。，35, 3, 716-727 (2013)
[6] 巴斯里（Basri），R。；雅各布斯，D。；Kemelmacher，I.，《具有一般未知照明的光度立体声》，国际计算机杂志。视觉。，72, 3, 239-257 (2007)
[7] 坎迪斯，E.J。；李，X。；马云（Ma，Y.）。；Wright，J.，稳健主成分分析？，J.ACM，58、3、11（2011）·Zbl 1327.62369号
[8] 坎迪斯，E。；Recht，B.，通过凸优化实现精确矩阵完备，Commun。ACM，55，6，111-119（2012）
[9] 赵晓乐。；王，F。；黄，T.-Z。；Ng，M.K。；Plemmons，R.J.，高光谱图像的去模糊和稀疏分解，IEEE Trans。地质科学。遥感，51、7、4045-4058（2013）
[10] 纪天勇。；黄，T.-Z。；赵晓乐。；马，T.-H。；Liu，G.，使用全变差和低秩矩阵分解的张量补全，Inform。科学。，326, 243-257 (2016) ·Zbl 1387.94038号
[11] X.Li，Y.Ye，X.Xu，视觉数据修复的低秩张量补全与总变差，载于：《AAAI学报》，2017年，第2210-2216页。
[12] 卢，C。；Tang，J。；Yan，S。；Lin，Z.，通过迭代重加权核范数实现非凸非光滑低秩最小化，IEEE Trans。图像处理。，25, 2, 829-839 (2016) ·Zbl 1408.94866号
[13] 崔，A。；彭杰。；李，H。；张，C。；Yu，Y.，通过非凸分数函数惩罚的仿射矩阵秩最小化问题，J.Comput。申请。数学。，336, 353-374 (2018) ·Zbl 1391.90488号
[14] Fazel，M.，矩阵秩最小化及其应用（2002），斯坦福大学，（博士论文）
[15] 温，Z。；尹，W。；Zhang，Y.，用非线性逐次过松弛算法求解矩阵补全的低阶因式分解模型，Math。程序。计算。，4, 4, 333-361 (2012) ·兹比尔1271.65083
[16] Xu，Y。；郝，R。；尹，W。；Su，Z.，低秩张量完备的并行矩阵分解，逆问题。成像，9，2，601-624（2015）·Zbl 1359.15021号
[17] 哈斯蒂，T。；Mazumder，R。；Lee，J.D。；Zadeh，R.，《通过快速交替最小二乘法实现矩阵补全和低秩奇异值分解》，J.Mach。学习。研究，16，1，3367-3402（2015）·Zbl 1352.65117号
[18] R.Cabral，F.De la Torre，J.P.Costeira，A.Bernardino，统一核范数和双线性因子分解方法用于低秩矩阵分解，收录于：IEEE计算机视觉国际会议，2013年，第2488-2495页。
[19] 北布马尔。；Absil，P.-A.，通过格拉斯曼流形上的预条件优化实现低秩矩阵完备，线性代数应用。，475, 200-239 (2015) ·Zbl 1312.90092号
[20] Y.Zheng，G.Liu，S.Sugimoto，S.Yan，M.Okutomi，稳健l1-范数下的实用低阶矩阵近似，收录于：IEEE计算机视觉与模式识别会议，2012年，第1410-1417页。
[21] 米什拉，B。；梅耶，G。；Bonnabel，S。；Sepulchre，R.，固定秩矩阵分解和黎曼低秩优化，计算。统计人员。，29, 3-4, 591-621 (2014) ·Zbl 1306.65107号
[22] 米什拉，B。；梅耶，G。；巴赫，F。；Sepulchre，R.，带跟踪范数惩罚的低库优化，SIAM J.Optim。，23, 4, 2124-2149 (2013) ·Zbl 1286.65078号
[23] 梅耶，G。；Bonnabel，S。；Sepulchre，R.，固定秩半正定矩阵的回归：黎曼方法，J.Mach。学习。决议，593-625年2月12日（2011年）·Zbl 1280.68185号
[24] 亨特，D.R。；Li，R.，使用MM算法的变量选择，Ann.Statist。，33, 4, 1617 (2005) ·Zbl 1078.62028号
[25] Mazumder，R。；哈斯蒂，T。；Tibshirani，R.，学习大型不完备矩阵的谱正则化算法，J.Mach。学习。决议，2287-2322年8月11日（2010年）·Zbl 1242.68237号
[26] Attouch，H。；博尔特，J。；Redont，P。；Soubeyran，A.，非凸问题的近似交替最小化和投影方法：基于Kurdyka-Lojasiewicz不等式的方法，数学。操作。研究，35，2，438-457（2010）·Zbl 1214.65036号
[27] 林，Z。；徐，C。；Zha，H.，通过优化最小化的鲁棒矩阵分解，IEEE Trans。模式分析。机器。智力。，40, 1, 208-220 (2018)
[28] Z.Zhang，奇异值分解，应用与超越，arXiv预印arXiv:1510.08532。
[29] 蔡J.-F。；坎迪斯，E.J。；Shen，Z.，矩阵补全的奇异值阈值算法，SIAM J.Optim。，20, 4, 1956-1982 (2010) ·Zbl 1201.90155号
[30] 姚，Q。；郭敬通（Kwok，J.T.）。；Zhong，W.，带非凸正则化的快速低阶矩阵学习，（IEEE国际数据挖掘会议（2015），IEEE），539-548
[31] 李玉凤。；张义杰。；黄，Z.-H.，一种用于低秩矩阵恢复的加权核范数最小化算法，J.Compute。申请。数学。，263, 338-350 (2014) ·Zbl 1301.65049号
[32] 邹，H。；Li，R.，非冲突惩罚似然模型中的一步稀疏估计，Ann.Statist。，36, 4, 1509 (2008) ·Zbl 1142.62027号
[33] C.Lu，J.Tang，S.Yan，Z.Lin，广义非凸非光滑低阶极小化，收录于：IEEE计算机视觉与模式识别会议，2014年，第4130-4137页。
[34] 顾，S。；谢奇。；孟，D。；左，W。；冯，X。；Zhang，L.，加权核范数最小化及其在低水平视觉中的应用，国际计算机杂志。视觉。，1-26 (2016)
[35] 张，C.-H。；Zhang，T.，高维稀疏估计问题凹正则化的一般理论，Statist。科学。，27, 4, 576-593 (2012) ·Zbl 1331.62353号
[36] Toh，K.-C。；Yun，S.，核范数正则化线性最小二乘问题的加速近似梯度算法，Pac。J.Optim。，6, 615-640, 15 (2010) ·Zbl 1205.90218号
[37] Keshavan，R.H。；Montanari，A。；噢，S.，从嘈杂的条目中完成矩阵，J.Mach。学习。决议，2057-2078年7月11日（2010年）·Zbl 1242.62069号
[38] Vandereycken，B.，通过黎曼优化完成低秩矩阵，SIAM J.Optim。，23, 2, 1214-1236 (2013) ·Zbl 1277.15021号
[39] 巴尔扎诺，L。；诺瓦克，R。；Recht，B.，《从高度不完整信息在线识别和跟踪子空间》（Allerton Conference on Communication，Control，and Computing（2010），IEEE），704-711
[40] F.M.哈珀。；Konstan，J.A.，《movielens数据集：历史与背景》，ACM Trans。互动。智力。系统。，5, 4, 19 (2016)
[41] 斯雷布罗，N。；Jaakkola，T.，加权低阶近似，（机器学习国际会议，第3卷（2003）），720-727
[42] Jain，P。；Netrapalli，P。；Sanghavi，S.，使用交替最小化完成低秩矩阵，（ACM计算理论研讨会（2013），ACM），665-674·Zbl 1293.65073号
[43] Sun，R。；Luo，Z.-Q.，通过非凸因子分解保证矩阵完成，IEEE Trans。通知。理论，62，11，6535-6579（2016）·Zbl 1359.94179号
[44] 横田，T。；赵（Q.Zhao）。；Cichocki，A.，张量完备的光滑链烷烃分解，IEEE Trans。信号处理。，64, 20, 5423-5436 (2016) ·Zbl 1414.94716号
[45] 周，P。；卢，C。；林，Z。；Zhang，C.，低秩张量完备的张量因子分解，IEEE Trans。图像处理。，27, 3, 1152-1163 (2018) ·Zbl 1409.94796号
[46] 蒋，T.-X。；黄，T.-Z。；赵晓乐。；纪天勇。；邓，L.-J.，利用框架先验实现低阶张量完备的矩阵分解，Inform。科学。，436, 403-417 (2018) ·Zbl 1448.15015号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。