×

具有对抗性稀疏噪声的低秩矩阵恢复。 (英语) Zbl 1485.90135号

摘要:数据科学中的许多问题都可以看作是从少量随机线性测量中恢复低秩矩阵,这些测量可能会被对抗性噪声和密集噪声所破坏。最近,针对不同的噪声,已经发展了一系列关于模型变体的理论,但针对对抗性噪声的理论较少。本文研究了受(ell_1)有界噪声和稀疏噪声干扰的线性测量中的低秩矩阵恢复问题,这些噪声可以任意改变对手选择的测量向量的(ω)分数。对于具有近似最优测量次数的高斯测量,我们证明了核范数约束最小绝对偏差(LAD)可以成功地估计任意(ω<0.239)的基础真矩阵。对于考虑几何衰减步长的等级约束LAD和基于矩阵分解的无约束LAD及其次梯度下降求解器,也建立了类似的鲁棒恢复结果。

MSC公司:

90立方 非线性规划
90 C90 数学规划的应用

软件:

SDPLR公司
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Allen-Zhu,Z。;Gelashvili,R。;Razensteyn,I.,一般p-规范的限制等距性质,IEEE Trans。Inf.Theory,625839-5854(2016)·Zbl 1359.94053号 ·doi:10.1109/tit.2016.2598296
[2] Baraniuk,R。;达文波特,M。;DeVore,R。;Wakin,M.,随机矩阵限制等距性的简单证明,Constr。约28253-263(2008年)·Zbl 1177.15015号 ·文件编号:10.1007/s00365-007-9003-x
[3] 小G·巴塞特;Koenker,R.,最小绝对误差回归的渐近理论,美国统计协会,73,618-622(1978)·Zbl 0391.62046号 ·doi:10.1080/01621459.1978.10480065
[4] Blumensath,T。;Davies,M.E.,压缩感知的迭代硬阈值,应用。计算。哈蒙。分析。,27, 265-274 (2009) ·Zbl 1174.94008号 ·doi:10.1016/j.acha.2009.04.002
[5] Buldygin,V。;Kozachenko,Y.,随机变量和随机过程的度量表征(2000),普罗维登斯,RI:美国数学学会,普罗维登斯,RI·Zbl 0998.60503号
[6] Burer,S。;Monteiro,R.D C.,通过低秩因式分解求解半定规划的非线性规划算法,数学。程序。,95, 329-357 (2003) ·Zbl 1030.90077号 ·doi:10.1007/s10107-002-0352-8
[7] 伯克·J·V。;Ferris,M.C.,数学规划中的弱尖锐极小,SIAM J.控制优化。,31, 1340-1359 (1993) ·Zbl 0791.90040号 ·数字对象标识代码:10.1137/0331063
[8] 蔡,J-F;坎迪斯,E.J。;Shen,Z.,矩阵补全的奇异值阈值算法,SIAM J.Optim。,20, 1956-1982 (2010) ·Zbl 1201.90155号 ·doi:10.1137/080738970
[9] Cai,T.T。;Zhang,A.,稀疏信号和低秩矩阵恢复的Sharp RIP界,应用。计算。哈蒙。分析。,35, 74-93 (2013) ·Zbl 1310.94021号 ·doi:10.1016/j.acha.2012.07.010
[10] 坎迪斯,E.J。;李,X。;马云(Ma,Y.)。;Wright,J.,稳健主成分分析?,J.ACM,58,1-37(2011)·Zbl 1327.62369号 ·数字对象标识代码:10.1145/1970392.1970395
[11] 坎迪斯,E.J。;Plan,Y.,从最少数量的噪声随机测量中恢复低秩矩阵的紧预言不等式,IEEE Trans。《信息论》,572342-2359(2011)·Zbl 1366.90160号 ·doi:10.1109/tit.2011.2111771
[12] 坎迪斯,E.J。;Recht,B.,通过凸优化实现精确矩阵完备,Found。计算。数学。,9, 717-772 (2009) ·Zbl 1219.90124号 ·doi:10.1007/s10208-009-9045-5
[13] 坎迪斯,E.J。;J.隆伯格。;Tao,T.,《鲁棒不确定性原理:从高度不完整的频率信息重建精确信号》,IEEE Trans。《信息论》,52,489-509(2006)·Zbl 1231.94017号 ·doi:10.1109/tit.2005.862083
[14] 坎迪斯,E.J。;罗姆伯格,J.K。;Tao,T.,从不完整和不准确的测量中恢复稳定信号,Commun。纯应用程序。数学。,59, 1207-1223 (2006) ·邮编1098.94009 ·doi:10.1002/cpa.20124年
[15] Charisopoulos,V。;陈,Y。;Davis,D。;Díaz,M。;丁·L。;Drusvyatskiy,D.,复合优化的低秩矩阵恢复:良好调节和快速收敛,Found。计算。数学。,21, 1505-1593 (2021) ·Zbl 1480.65100号 ·doi:10.1007/s10208-020-09490-9
[16] Chartrand,R。;Staneva,V.,受限等距特性和非凸压缩传感,反问题,24(2008)·Zbl 1143.94004号 ·doi:10.1088/0266-5611/24/3/035020
[17] 陈,Y。;Chi,Y.,通过保证的低秩矩阵估计来利用大数据中的结构:通过凸优化和非凸优化的最新理论和快速算法,IEEE信号处理。Mag.,35,14-31(2018)·doi:10.1109/msp.2018.2821706
[18] 陈,Y。;Chi,Y。;Goldsmith,A.J.,通过凸规划进行二次抽样的精确和稳定协方差估计,IEEE Trans。《信息论》,614034-4059(2015)·Zbl 1359.62181号 ·doi:10.1109/tit.2015.2429594
[19] Chi,Y。;Lu,Y.M。;Chen,Y.,非凸优化满足低秩矩阵分解:概述,IEEE Trans。信号处理。,67, 5239-5269 (2019) ·Zbl 07123429号 ·doi:10.1109/tsp.2019.2937282
[20] Clason,C。;Jin,B.,脉冲噪声非线性参数识别问题的半光滑牛顿法,SIAM J.成像科学。,5, 505-536 (2012) ·Zbl 1250.65134号 ·doi:10.1137/110826187
[21] Davenport,医学硕士。;Romberg,J.,《从不完全观测中恢复低秩矩阵的概述》,IEEE J.Sel。顶部。信号处理。,10, 608-622 (2016) ·doi:10.1109/jstsp.2016.2539100
[22] Davis,D。;Drusvyatskiy,D。;麦克菲,K.J。;Paquette,C.,尖锐弱凸函数的次梯度方法,J.Optim。理论应用。,179, 962-982 (2018) ·Zbl 1461.65140号 ·doi:10.1007/s10957-018-1372-8
[23] Davis,D。;Drusvyatskiy,D。;Paquette,C.,相位恢复的非光滑景观,IMA J.Numer。分析。,40, 2652-2695 (2020) ·Zbl 1464.65063号 ·doi:10.1093/imanum/drz031文件
[24] 德拉托雷,F。;Black,M.J.,《稳健子空间学习框架》,国际计算机杂志。视觉。,54, 117-142 (2003) ·Zbl 1076.68058号 ·doi:10.1023/A:1023709501986
[25] 德沃克,C。;McSherry,F。;Talwar,K.,《隐私的价格和lp解码的限制》,第85-94页(2007年),ACM·Zbl 1232.68047号
[26] Donoho,D.L.,压缩传感,IEEE Trans。《信息论》,521289-1306(2006)·兹比尔1288.94016 ·doi:10.1109/tit.2006.871582
[27] Donoho,D.L.,对于大多数大型欠定线性方程组,最小L_1范数解也是最稀疏解,Commun。纯应用程序。数学。,59, 797-829 (2006) ·Zbl 1113.15004号 ·doi:10.1002/cpa.20132年
[28] 杜奇,J.C。;阮,F.,解一组二次方程的(大多数):鲁棒相位恢复的复合优化,Inf.Inference,8471-529(2019)·Zbl 1478.90084号 ·doi:10.1093/imaiai/iay015
[29] Eldar,Y.C。;Mendelson,S.,《相位恢复:稳定性和恢复保证》,应用。计算。哈蒙。分析。,36, 473-494 (2014) ·Zbl 06298184号 ·doi:10.1016/j.aca.2013.08.003
[30] 福卡特,S。;Subramanian,S.,从秩一投影进行低秩恢复的迭代硬阈值,线性代数。申请。,572, 117-134 (2019) ·Zbl 1433.65084号 ·doi:10.1016/j.laa.2019.03.007
[31] 总直径。;刘,Y-K;弗拉米亚,S.T。;贝克尔,S。;Eisert,J.,《通过压缩传感的量子状态层析成像》,Phys。修订稿。,105 (2010) ·doi:10.1103/physrevlett.105.150401
[32] Huber,P.J.,《稳健统计》,第523卷(2004年),纽约:威利出版社,纽约
[33] Jain,P。;梅卡,R。;Dhillon,I.,通过奇异值投影保证秩最小化,第1卷,937-945(2010)
[34] Karmalkar,S。;Price,E.,通过l1回归使用对抗稀疏噪声的压缩传感(2018年),Schloss Dagstuhl-Leibniz-Zentrum fuer Informatik
[35] Kyrillidis,A。;Cevher,V.,《硬阈值方法的矩阵配方》,J.Math。成像视觉。,48, 235-265 (2014) ·Zbl 1311.90141号 ·doi:10.1007/s10851-013-0434-7
[36] 李,L。;黄,W。;顾,I.Y-H;田强,用于前景物体检测的复杂背景统计建模,IEEE Trans。图像处理。,13, 1459-1472 (2004) ·doi:10.1109/tip.2004.836169
[37] 李,P。;Chen,W。;Ge,H。;Ng,M.K.,脉冲噪声消除下信号和图像重建的l1-αl_2最小化方法,反问题,36(2020)·Zbl 1468.94021号 ·doi:10.1088/1361-6420/ab750c
[38] 李,X。;朱,Z。;Man-Cho So,A。;Vidal,R.,非凸鲁棒低秩矩阵恢复,SIAM J.Optim。,30, 660-686 (2020) ·Zbl 07175265号 ·数字对象标识代码:10.1137/18m1224738
[39] 李毅。;Chi,Y。;张,H。;Liang,Y.,通过中点梯度下降实现任意离群值的非凸低阶矩阵恢复,Inf.Inference,9289-325(2020)·兹比尔1471.62376 ·doi:10.1093/imaiai/iaz009
[40] 李毅。;孙,Y。;Chi,Y.,从损坏的秩一测量中恢复低秩半正定矩阵,IEEE Trans。信号处理。,65, 397-408 (2017) ·Zbl 1414.94385号 ·doi:10.1109/tsp.2016.2620109
[41] 林,J。;李,S.,矩阵秩最小化的投影landweber迭代的收敛性,应用。计算。哈蒙。分析。,36, 316-325 (2014) ·Zbl 1302.65144号 ·doi:10.1016/j.acha.2013.06.005
[42] 刘,Z。;Vandenberghe,L.,核范数逼近的内点方法及其在系统辨识中的应用,SIAM J.矩阵分析。申请。,31, 1235-1256 (2010) ·Zbl 1201.90151号 ·数字对象标识代码:10.1137/090755436
[43] 森田,T。;Kanade,T.,从图像流中恢复形状和运动的顺序分解方法,IEEE Trans。模式分析。机器。智力。,19, 858-867 (1997) ·doi:10.1109/34.608289
[44] 帕克·D。;Kyrillidis,A。;卡曼尼,C。;Sanghavi,S.,《通过Burr-Monteiro方法实现无伪局部极小值的非方矩阵传感》,第65-74页(2017年)
[45] 波特诺伊,S。;Koenker,R.,《高斯兔和拉普拉斯乌龟:平方误差与绝对误差估计值的可计算性》,《统计科学》。,12, 279-300 (1997) ·Zbl 0955.62608号 ·doi:10.1214/ss/1030037960
[46] Recht,B。;法泽尔,M。;Parrilo,P.A.,通过核范数最小化保证线性矩阵方程的最小秩解,SIAM Rev.,52,471-501(2010)·Zbl 1198.90321号 ·数字对象标识代码:10.1137/070697835
[47] 托马西,C。;Kanade,T.,《正字法下图像流的形状和运动:因式分解方法》,国际计算机杂志。视觉。,9, 137-154 (1992) ·doi:10.1007/bf00129684
[48] Tong,T。;马,C。;Chi,Y.,用缩放次梯度方法恢复低秩矩阵:无条件数的快速稳健收敛,IEEE Trans。信号处理。,69, 2396-2409 (2021) ·Zbl 07591494号 ·doi:10.1109/tsp.2021.3071560
[49] 图,S。;Boczar,R。;Simchowitz,M。;索尔塔诺尔科塔比,M。;Recht,B.,通过procustes流求解线性矩阵方程的低阶解,第964-973页(2016)
[50] 小瓶,J-P,集和函数的强凸性和弱凸性,数学。操作。研究,8231-259(1983)·兹伯利0526.90077 ·doi:10.1287/门8.2.231
[51] Wainwright,M.J.,《高维统计:非症状观点》,第48卷(2019),剑桥:剑桥大学出版社,剑桥·Zbl 1457.62011年
[52] Wang,L.,《高维线性回归的L1惩罚lad估计量》,《多元分析杂志》。,120, 135-151 (2013) ·Zbl 1279.62144号 ·doi:10.1016/j.jmva.2013.04.001
[53] Wei,W.,低秩矩阵恢复的核范数惩罚LAD估计量,博士论文(2015)
[54] 张,M。;黄,Z-H;Zhang,Y.,非凸矩阵恢复的限制p-等距性质,IEEE Trans。Inf.Theory,59,4316-4323(2013)·Zbl 1364.94179号 ·doi:10.1109/tit.2013.2250577
[55] 张,R。;Li,S.,限制等距性质常数猜想的证明,IEEE Trans。信息理论,64,1699-1705(2017)·Zbl 1390.94508号 ·doi:10.1109/TIT.2017.2705741
[56] 朱,Z。;李强。;唐·G。;Wakin,M.B.,低秩矩阵优化中的全局最优性,IEEE Trans。信号处理。,66, 3614-3628 (2018) ·Zbl 1414.90297号 ·doi:10.1109/tsp.2018.2835403
[57] 郑琦。;Lafferty,J.,使用Burr-Monteiro因式分解和梯度下降法对矩形矩阵完成的收敛性分析(2016)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。