×
亨利·亚当斯;劳拉·卡斯布;迪安娜·尼德尔

迭代结构矩阵补全的自适应。 （英语） Zbl 1483.65066号

已找到。数据科学。 3，第4号，769-791（2021）.
摘要：从已知项的子集预测矩阵中缺失项的任务称为矩阵补全。在当今数据驱动的世界中，数据完成无论是主要目标还是预处理步骤都至关重要。结构化矩阵补全包括数据不会随机均匀丢失的任何设置。在最近的工作中，对矩阵补全的标准核范数最小化（NNM）进行了修改，以考虑基于稀疏性结构。这种结构概念在许多情况下都有动机，包括推荐系统，其中观察到条目的概率取决于条目的值。我们建议调整用于低秩矩阵完成的迭代加权最小二乘（IRLS）算法，以考虑缺失条目中基于稀疏性的结构。我们还提出了一种基于迭代梯度投影的算法实现，该算法可以处理大规模矩阵。最后，我们针对不同大小、秩和结构级别的矩阵提出了一个稳健的数值实验阵列。我们表明，我们提出的方法在小矩阵上与调整后的NNM相当，并且在大小为1000倍的矩阵上的结构化设置中通常优于IRLS算法。

理学硕士：

65层55 低阶矩阵逼近的数值方法；矩阵压缩
65英尺50英寸 稀疏矩阵的计算方法
15A83号 矩阵完成问题

关键词：

低秩矩阵补全;迭代重加权算法;结构化矩阵补全;稀疏矩阵;梯度投影法

软件：

CVX公司;ADMiRA公司;github
PDF格式BibTeX公司 XML格式引用
\textit{H.Adams}等人，发现。数据科学。3，编号4，769--791（2021；Zbl 1483.65066）
全文： 内政部 arXiv公司

参考文献：

[1] H.Adams、L.Kassab和D.Needell，结构化IRLS代码，https://github.com/lara-kassab/structured-matrix-completion-IRLS.git。
[2] R.M.Bell；Y.Koren，《Netflix大奖挑战的教训》，SiGKDD Explorations，975-79（2007）·数字对象标识代码：10.1145/1345448.1345465
[3] J.Bennett和S.Lanning，网飞奖，年KDD杯和研讨会会议记录，第2007卷，美国纽约州纽约市，（2007），35。
[4] P.Biswas；T.-C.Lian；T.C.王；Y.Ye，基于半定规划的传感器网络定位算法，ACM传感器网络汇刊（TOSN），2188-220（2006）
[5] 蔡建富；E.J.Candès；沈振中，矩阵补全的奇异值阈值算法，SIAM J.Optim。，20, 1956-1982 (2010) ·Zbl 1201.90155号 ·doi:10.1137/080738970
[6] E.J.Candès，X.Li，Y.Ma和J.Wright，稳健主成分分析？，美国临床医学杂志，58（2011），第11条，第37页·Zbl 1327.62369号
[7] E.J.Candès；Y.Plan，带噪声的矩阵完成，IEEE会议记录，98925-936（2010）
[8] E.J.Candès；B.Recht，通过凸优化实现精确矩阵补全。计算。数学。，9, 717-772 (2009) ·Zbl 1219.90124号 ·doi:10.1007/s10208-009-9045-5
[9] E.J.坎迪斯；陶涛，线性规划译码，IEEE Trans。通知。理论，51，4203-4215（2005）·Zbl 1264.94121号 ·doi:10.1109/TIT.2005.858979
[10] E.J.Candès；陶涛，凸松弛的威力：近最优矩阵补全，IEEE Trans。通知。理论，562053-2080（2010）·Zbl 1366.15021号 ·doi:10.1109/TIT.2010.2044061
[11] V.Chandrasekaran；S.Sanghavi；P.A.Parrilo；A.S.Willsky，矩阵分解的秩parity非相干，SIAM J.Optim。，21, 572-596 (2011) ·Zbl 1226.90067号 ·数字对象标识代码：10.1137/090761793
[12] Y.Chen、S.Bhojanapalli、S.Sanghavi和R.Ward，相干矩阵完成，in机器学习国际会议，PMLR，（2014），674-682。
[13] Y.Chen；S.Bhojanapalli；S.Sanghavi；R.Ward，完成任何低秩矩阵，可证明，J.Mach。学习。第16号决议，2999-3034（2015）·Zbl 1351.62107号
[14] Y.Chen；A.贾拉利；S.Sanghavi；C.Caramanis，从错误和擦除中恢复低秩矩阵，IEEE信息理论汇刊，594324-4337（2013）
[15] I.Daubechies；R.DeVore；M.Fornasier；C.S.Güntürk，稀疏恢复的迭代重加权最小二乘最小化，Comm.Pure Appl。数学。，63，1-38（2010年）·Zbl 1202.65046号 ·doi:10.1002/cpa.20303
[16] D.L.Donoho；P.B.Stark，《不确定性原理和信号恢复》，SIAM J.Appl。数学。，49, 906-931 (1989) ·Zbl 0689.42001 ·doi:10.1137/0149053
[17] M.Fazel，矩阵秩最小化及其应用，斯坦福大学博士论文，2002年。
[18] M.Fazel、H.Hindi和S.P.Boyd，矩阵秩最小化的对数集启发式及其在Hankel和Euclidean距离矩阵中的应用2003年美国控制会议记录第3卷，IEEE，（2003），2156-2162。
[19] M.Fornasier；H.Rauhut；R.Ward，通过迭代加权最小二乘最小化恢复低秩矩阵，SIAM J.Optim。，21, 1614-1640 (2011) ·兹比尔1236.65044 ·doi:10.1137/100811404
[20] D.Goldfarb；S.Ma，矩阵秩最小化不动点延拓算法的收敛性，发现。计算。数学。，11, 183-210 (2011) ·Zbl 1219.90195号 ·doi:10.1007/s10208-011-9084-6
[21] M.C.Grant和S.P.Boyd，非光滑凸程序的图形实现，in学习和控制的最新进展（编辑V.Blondel、S.Boyd和H.Kimura），《控制和信息科学讲义》，Springer-Verlag有限公司，（2008），95-110·Zbl 1205.90223号
[22] M.Grant和S.Boyd，CVX:Matlab软件用于约束凸规划，版本2.1，http://cvxr.com/cvx, 2014.
[23] D.Gross，从任何基础上的少数系数中恢复低秩矩阵，IEEE Trans。通知。理论，57，1548-1566（2011）·Zbl 1366.94103号 ·doi:10.1109/TIT.2011.2104999
[24] D.总量；Y.-K.Liu；S.T.弗拉米亚；S.Becker；J.Eisert，通过压缩传感的量子状态层析成像，物理。修订稿。，105, 150401 (2010) ·doi:10.10103/物理通讯.105.150401
[25] N.Halko；P.-G.Martinsson；J.A.Tropp，《寻找随机结构：构建近似矩阵分解的概率算法》，SIAM Rev.，53，217-288（2011）·Zbl 1269.65043号 ·数字对象标识代码：10.1137/090771806
[26] P.Jain，R.Meka和I.S.Dhillon，通过奇异值投影保证秩最小化，in神经信息处理系统研究进展, (2010), 937-945.
[27] P.Jain、P.Netrapalli和S.Sanghavi，使用交替最小化完成低秩矩阵，in2013年ACM计算理论研讨会论文集, (2013), 665-674. ·Zbl 1293.65073号
[28] R.H.Keshavan和S.Oh，用于矩阵补全的Grassman流形上的梯度下降算法，arXiv预印本。arXiv:0910.5260。
[29] Y.Koren、R.Bell和C.Volinsky，推荐系统的矩阵分解技术，电脑类, 30-37.
[30] Cümmerle；J.Sigl，Harmonic mean迭代加权最小二乘法用于低秩矩阵恢复，J.Mach。学习。第19号决议，1815-1863（2018）·Zbl 1512.62057号
[31] K.Lee；Y.Bresler，ADMiRA：最小秩近似的原子分解，IEEE Trans。通知。理论，564402-4416（2010）·Zbl 1366.94112号 ·doi:10.1109/TIT.2010.2054251
[32] N.Linial；伦敦东部；Y.Rabinovich，图的几何及其算法应用，组合数学，15，215-245（1995）·Zbl 0827.05021号 ·doi:10.1007/BF01200757
[33] 刘总；L.Vandenberghe，核范数逼近的内点方法及其在系统辨识中的应用，SIAM J.矩阵分析。申请。，31, 1235-1256 (2009) ·Zbl 1201.90151号 ·数字对象标识代码：10.1137/090755436
[34] S.马；D.Goldfarb；L.Chen，矩阵秩最小化的不动点和Bregman迭代方法，数学。程序。，128, 321-353 (2011) ·Zbl 1221.65146号 ·doi:10.1007/s10107-009-0306-5
[35] K.Mohan和M.Fazel，IRLS代码，https://faulty.washington.edu/mfazel网站/，[在线；访问日期：2019-08-01]。
[36] K.Mohan和M.Fazel，重新加权核范数最小化及其在系统识别中的应用2010年美国控制会议记录，IEEE，（2010），2953-2959。
[37] K.Mohan；M.Fazel，矩阵秩最小化的迭代重加权算法，J.Mach。学习。研究，13，3441-3473（2012）·Zbl 1436.65055号
[38] D.Molitor和D.Needell，结构化观测的矩阵完成2018年信息理论与应用研讨会（ITA），IEEE，（2018），1-5。
[39] I.Razenshteyn，Z.Song和D.P.Woodruff，可证明担保的加权低阶近似，in第48届ACM SIGACT计算理论年会论文集, (2016), 250-263. ·Zbl 1378.65093号
[40] B.Recht，《矩阵完成的一种简单方法》，J.Mach。学习。第12号决议，3413-3430（2011年）·Zbl 1280.68141号
[41] B.Recht；M.Fazel；P.A.Parrilo，通过核范数最小化保证线性矩阵方程的最小秩解，SIAM Review，52，471-501（2010）·Zbl 1198.90321号 ·数字对象标识代码：10.1137/070697835
[42] G.罗宾；O.Klopp；J.Josse；É. 鼠标线；R.Tibshirani，混合和不完整数据帧中的主要影响和交互，J.Amer。统计人员。协会，15，1292-1303（2020）·Zbl 1441.62145号 ·doi:10.1080/01621459.2019.1623041
[43] A.A.Rontogiannis；P.V.Giampouras；K.D.Koutroumbas，在线加权最小二乘稳健PCA，IEEE信号处理快报，271340-1344（2020）
[44] R.Schmidt，多发射极位置和信号参数估计，IEEE天线和传播汇刊，34，276-280（1986）·doi:10.10109/TAP.1986.1143830
[45] T.Schnabel、A.Swaminathan、A.Singh、N.Chandak和T.Joachims，《作为治疗的建议：借记学习和评估》，arXiv预印本。arXiv:1602.05352。
[46] A.Singer，从本地距离对全球定位的评论，Proc。国家。阿卡德。科学。美国，105，9507-9511（2008）·Zbl 1205.86043号 ·doi:10.1073/pnas.0709842104
[47] A.M.-C.So；叶毅，传感器网络定位半定规划理论，数学。程序。，109, 367-384 (2007) ·Zbl 1278.90482号 ·doi:10.1007/s10107-006-0040-1
[48] A.Sportisse；C.博伊尔；J.Josse，具有非随机数据缺失的推断和低秩估计，Stat.Comput。，30, 1629-1643 (2020) ·Zbl 1452.62174号 ·doi:10.1007/s11222-020-09963-5
[49] K.-C.Toh；S.Yun，核范数正则化线性最小二乘问题的加速近似梯度算法，Pac。J.Optim。，615-640（2010年）·Zbl 1205.90218号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。