×

奇异值阈值矩阵补全:锐界。 (英语) Zbl 1323.62047号

摘要:我们考虑矩阵完成问题,其目的是估计一个大数据矩阵,其中只观察到其条目的相对较小的随机子集。矩阵补全问题的常用方法是迭代阈值法。尽管它们在经验上取得了成功,但人们对这种迭代阈值方法的理论保证知之甚少。本文的目标是为一种迭代阈值算法提供强有力的理论保证,该算法是软Impute算法的改进,类似于核范数惩罚方法和一步阈值方法所获得的理论保证。我们的结果的一个重要结果是矩阵完成问题的精确最小最大最优收敛速度,到目前为止只知道一个对数因子。

MSC公司:

62小时12分 多元分析中的估计
60对20 随机矩阵(概率方面)
15B52号 随机矩阵(代数方面)
15A83号 矩阵完成问题
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Balzano,L.、Nowak,R.和Recht,B.绝对和单调规范。,数字数学,3:257-2641961·Zbl 0111.01602号 ·doi:10.1007/BF01386026
[2] Bandeira,A.S.和van Handel,R.具有独立项的随机矩阵范数上的Sharp非辛界。,ArXiv电子版,2014年8月。
[3] Cai,J.、Candès,E.J.和Shen Z.矩阵补全的奇异值阈值算法。,SIAM优化杂志,20(4):1956-19822010·Zbl 1201.90155号 ·doi:10.1137/080738970
[4] Cai,T.T.和Zhou,W.通过最大形式约束优化完成矩阵。,2013. ·兹比尔1342.62091
[5] Candès,E.J.和Plan,Y.矩阵完成与噪声。,IEEE会议记录,98(6):925-9362009。
[6] Candès E.J.和Tao,T.凸松弛的威力:近最优矩阵完成。,IEEE传输。通知。理论,56(5):2053-20802010·兹伯利1366.15021 ·doi:10.1109/TIT.2010.2044061
[7] Candès,E.J.和Recht,B.通过凸优化实现精确矩阵补全。,计算数学基金会,9(6):717-7722009·Zbl 1219.90124号 ·doi:10.1007/s10208-009-9045-5
[8] Carpentier,A.和Kim,A.K.H.显式极限分布低秩矩阵恢复的迭代硬阈值估计。,2015. ·Zbl 1394.62065号
[9] Chatterjee,S.广义奇异值阈值矩阵估计。,Ann.Statist.,《统计年鉴》,43(1):177-214, 02 2015. ·Zbl 1308.62038号 ·doi:10.1214/14-AOS1272
[10] Dhanjal,C.、Gaudel,R.和Clémençon,S.通过核规范规范在线完成矩阵。,SIAM国际数据挖掘会议,第623-631页,2014年。
[11] Foygel,R.和Srebro,N.低秩矩阵重建的基于浓度的保证。,第24届学习理论年会(COLT),2011年。
[12] Gross,D.从任何基础上的少数系数中恢复低秩矩阵。,IEEE传输。通知。理论,57(3):1548-15662011·Zbl 1366.94103号 ·doi:10.1109/TIT.2011.2104999
[13] Keshavan,R.H.,Montanari,A.和Oh,S.从几个条目中完成矩阵。,IEEE传输。通知。理论,56(6):2980-29982010·Zbl 1242.62069号 ·doi:10.1109/TIT.2010.2046205
[14] Keshavan,R.H.、Montanari,A.和Oh,S.噪声条目的矩阵补全。,J.马赫。学习。2010年第11号决议:2057-2078·Zbl 1242.62069号
[15] Klopp,O.Rank惩罚了高维矩阵的估计量。,电子。J.统计,5 :1161-1183, 2011. ·Zbl 1274.62489号 ·doi:10.1214/11-EJS637
[16] Klopp,O.具有一般抽样分布的噪声低秩矩阵补全。,伯努利,20(1):282-3032014·Zbl 1400.62115号 ·文件编号:10.3150/12-BEJ486
[17] Koltchinski,V.,经验风险最小化和稀疏恢复问题中的Oracle不等式,《数学讲义》第2033卷。施普林格,海德堡,2011年。2008年在圣弗洛尔举行的第38届概率暑期学校的讲座,圣弗洛尔概率学院。【圣弗洛尔概率暑期学校】·Zbl 1223.91002号 ·doi:10.1007/978-3642-22147-7
[18] Koltchinskii,V.、Lounici,K.和Tsybakov,A.B.噪声低秩矩阵完成的核形式惩罚和最优速率。,安.统计师,39(5) :2302-2329, 2011. ·Zbl 1231.62097号 ·doi:10.1214/11-AOS894
[19] Ledoux,M.,《测量现象的集中》,《数学调查与专题论文》第89卷。美国数学学会,普罗维登斯,RI,2001年。
[20] Mazumder,R.、Hastie,T.和Tibshirani,R.学习大型不完备矩阵的谱正则化算法。,机器学习研究杂志,11:2287-23222010·Zbl 1242.68237号
[21] Negahban,S.和Wainwright,M.J.限制强凸性和加权矩阵完备:带噪声的最优界。,机器学习研究杂志,13:1665-16972012·Zbl 1436.62204号
[22] Recht,B.矩阵补全的简单方法。,机器学习研究杂志,12:3413-3432011·Zbl 1280.68141号
[23] Talagrand,M.独立的新视角。,Ann.Probab,24(1):1-34, 01 1996. ·Zbl 0858.60019号 ·doi:10.1214/aop/1042644705
[24] Troyanskaya,O.、Cantor,M.、Sherlock,G.、Brown,P.、Hastie,T.、Tibshirani,R.、Botstein,D.和Altman,R.B.缺失dna微阵列的值估计方法。,生物信息学,17(6):520-5252001。
[25] Tsybakov,A.B.,非参数估计简介。统计学中的斯普林格系列。施普林格,纽约,2009年。对2004年法文原版进行修订和扩充,弗拉基米尔·扎亚茨翻译。
[26] Wang,Z.、Lai,M.、Lu,Z.,Fan,W.、Davulcu,H.和Ye,J.低秩矩阵完成的正交秩一矩阵追踪。,《第31届国际机器学习大会论文集》(ICML-14),第91-992014页·Zbl 1315.65044号 ·doi:10.1137/130934271
[27] Watson,G.A.某些矩阵范数次微分的刻画。,线性代数及其应用,170(0):33-451992·兹伯利0751.15011 ·doi:10.1016/0024-3795(92)90407-2
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。