×
凯里里迪斯、阿纳斯塔西奥斯；沃尔坎·塞弗尔

硬阈值方法的矩阵配方。 （英语） Zbl 1311.90141号

数学杂志。成像视觉。 48，第2期，235-265（2014）.
本文研究了一类硬阈值方法中线性反问题的一组新的低秩恢复算法。作者提出了新的策略，并回顾了现有的硬阈值方法，以从降维线性投影中恢复低秩矩阵。讨论围绕四个基本构建块展开，它们利用问题结构来降低计算复杂性，同时又不牺牲稳定性。给出了所提算法的复杂性分析。考虑了两种加速方案。作者利用随机低秩投影提高了收敛速度，并通过对合成数据和实际数据的实验结果为他们的主张提供了经验支持。
审核人：弗朗西斯科·格拉·巴斯克斯（普埃布拉）

引用于32文件

MSC公司：

90立方 非线性规划
90立方厘米 极点和枢轴方法

关键词：

仿射秩最小化；硬阈值；\（epsilon）-近似方案；随机算法

软件：

RTRMC公司；水母；ADMiRA公司；CoSaMP公司；LMaFit公司；PROPACK公司
PDF格式BibTeX公司 XML格式引用
\textit{A.Kyrillidis}和\textit{V.Cevher}，J.Math。成像视觉。48，第2号，235--265（2014；Zbl 1311.90141）
全文： 内政部 arXiv公司

参考文献：

[1] Baraniuk，R.G.，Cevher，V.，Wakin，M.B.：降维和信号恢复的低维模型：几何视角。程序。IEEE 98（6），959-971（2010）·doi:10.1109/JPROC.2009.2038076
[2] Candès，E.J.，Recht，B.：通过凸优化实现精确矩阵补全。已找到。计算。数学。9(6), 717-772 (2009) ·Zbl 1219.90124号 ·doi:10.1007/s10208-009-9045-5
[3] 梅卡，R。；Jain，P。；Dhillon，I.S.，通过奇异值投影保证秩最小化（2010）
[4] Tyagi，H。；Cevher，V.，《利用高维随机抽样学习脊函数》，2025-2028（2012），纽约
[5] Tyagi，H.，Cevher，V.：通过低秩方法从点查询中学习非参数基独立模型。技术报告，EPFL（2012）·Zbl 1373.68336号
[6] Liu，Y.K.：泡利测量的普遍低阶矩阵恢复（2011）·兹比尔1366.62111
[7] Tyagi，H。；Cevher，V.，多指标函数模型的主动学习，第25期，1475-1483（2012）
[8] Candes，E.J.，Li，X.：当方程的数量与未知量差不多时，通过相位提升求解二次方程（2012年）。预印arXiv:1208.6247·Zbl 1312.90054号
[9] Bennett，J。；Lanning，S.，网飞奖（2007）
[10] Candes，E.J.，Li，X.，Ma，Y.，Wright，J.：稳健主成分分析？J.ACM 58（3）（2011年）·Zbl 1327.62369号
[11] Kyrillidis，A.，Cevher，V.：矩阵alps：加速低秩和稀疏矩阵重建。技术报告，EPFL（2012）
[12] 沃特斯，A.E。；桑卡拉纳拉亚南，A.C。；Baraniuk，R.G.，《Sparcs：从压缩测量中恢复低秩和稀疏矩阵》（2011）
[13] Fazel，M.，Recht，B.，Parrilo，P.A.：通过核范数最小化保证线性矩阵方程的最小秩解。SIAM版本52（3），471-501（2010）·Zbl 1198.90321号 ·数字对象标识代码：10.1137/070697835
[14] Liu，Z.，Vandenberghe，L.：核范数逼近的内点方法及其在系统辨识中的应用。SIAM J.矩阵分析。申请。1235-1256年（2009年）·Zbl 1201.90151号 ·数字对象标识代码：10.1137/090755436
[15] 莫汉，K。；Fazel，M.，《应用于系统识别的加权核规范最小化》（2010年），纽约
[16] Cai，J.-F.，Candès，E.J.，Shen，Z.：矩阵补全的奇异值阈值算法。SIAM J.Optim公司。20, 1956-1982 (2010) ·Zbl 1201.90155号 ·doi:10.1137/080738970
[17] Recht，B.，Re，C.：大规模矩阵补全的并行随机梯度算法。预印本（2011年）·Zbl 1275.90039号
[18] Lin，Z.，Chen，M.，Ma，Y.：精确恢复受损低秩矩阵的增广拉格朗日乘子方法（2010）。预印arXiv:1009.5055·Zbl 1367.94082号
[19] Wright，J.，Wu，L.，Chen，M.，Lin，Z.，Ganesh，A.，Ma，Y.：精确恢复受损低秩矩阵的快速凸优化算法。UIUC技术报告UILU-ENG-09-2214·Zbl 1163.94003号
[20] Natarajan，B.K.：线性系统的稀疏近似解。SIAM J.计算。24（2），227-234（1995年）·Zbl 0827.68054号 ·doi:10.1137/S0097539792240406
[21] Lee，K.，Bresler，Y.：阿米拉：最小秩近似的原子分解。IEEE传输。《信息论》56（9），4402-4416（2010）·Zbl 1366.94112号 ·doi:10.1109/TIT.2010.2054251
[22] Goldfarb，D.，Ma，S.：矩阵秩最小化不动点延拓算法的收敛性。已找到。计算。数学。11, 183-210 (2011) ·Zbl 1219.90195号 ·doi:10.1007/s10208-011-9084-6
[23] 贝克，A。；Teboulle，M.，解一类非凸/仿射可行性问题的线性收敛算法，33-48（2011）·兹比尔1242.90225 ·doi:10.1007/978-1-4419-9569-8_3
[24] Kyrillidis，A。；Cevher，V.，《硬阈值方法的配方》，12月·Zbl 1311.90141号
[25] Kyrillidis，A。；Cevher，V.，《通过Clash算法进行组合选择和最小绝对收缩》，7月
[26] Halko，N.，Martinsson，P.G.，Tropp，J.A.：寻找具有随机性的结构：构造近似矩阵分解的概率算法。SIAM版本53217-288（2011）·Zbl 1269.65043号 ·数字对象标识代码：10.1137/090771806
[27] Bertsekas，D.：非线性规划。雅典娜科学，纳舒亚（1995）·Zbl 0935.90037号
[28] Horn，R.A.，Johnson，C.R.：矩阵分析。剑桥大学出版社，剑桥（1990）·Zbl 0704.15002号
[29] Cohen，A.、Dahmen，W.、DeVore，R.：压缩感知和最佳k项近似。美国数学杂志。Soc.22（1），211-231（2009）·兹比尔1206.94008 ·doi:10.1090/S0894-0347-08-00610-3
[30] Tropp，J.A.：贪婪是好的：稀疏近似的算法结果。IEEE传输。Inf.理论50（10），2231-2242（2004）·Zbl 1288.94019号 ·doi:10.1109/TIT.2004.834793
[31] Cevher，V.，《阿尔卑斯山稀疏恢复观点》，5808-5811（2011），纽约
[32] Needell，D.，Tropp，J.A.：Cosamp：不完整和不准确样本的迭代信号恢复。申请。计算。哈蒙。分析。26(3), 301-321 (2009) ·Zbl 1163.94003号 ·doi:10.1016/j.acha.2008.07.002
[33] Dai，W.，Milenkovic，O.：压缩传感信号重建的子空间追求。IEEE传输。《信息论》55，2230-2249（2009）·Zbl 1367.94082号 ·doi:10.1109/TIT.2009.2016006
[34] Foucart，S.：硬阈值追踪：一种用于压缩传感的算法。SIAM J.数字。分析。49(6), 2543-2563 (2011) ·Zbl 1242.65060号 ·数字对象标识代码：10.1137/100806278
[35] Blumensath，T.，Davies，M.E.：压缩感知的迭代硬阈值。申请。计算。哈蒙。分析。27(3), 265-274 (2009) ·Zbl 1174.94008号 ·doi:10.1016/j.acha.2009.04.002
[36] 加格·R。；Khandekar，R.，《稀疏梯度下降：具有受限等距特性的稀疏恢复迭代算法》（2009），纽约
[37] Blumensath，T.，Davies，M.E.：标准化迭代硬阈值：保证稳定性和性能。IEEE J.选择。顶部。信号处理。4(2), 298-309 (2010) ·doi:10.1010/JSTSP.2010.2042411
[38] Blumensath，T.：加速迭代硬阈值。信号处理。92, 752-756 (2012) ·doi:10.1016/j.sigpro.2011.09.017
[39] Tanner，J.，Wei，K.：矩阵完成的标准化迭代硬阈值。预印本（2012）·Zbl 1282.65043号
[40] Coifman，R.，Geshwind，F.，Meyer，Y.：噪音。申请。计算。哈蒙。分析。10(1), 27-44 (2001) ·Zbl 1030.42027号 ·doi:10.1006/acha.2000.0313
[41] Foucart，S.，稀疏恢复算法：受限等距常数的充分条件（2010）
[42] Nesterov，Y.：最小化复合目标函数的梯度方法。卢浮天主教大学2007076核心讨论论文。运筹学和计量经济学中心（CORE）（2007年）
[43] Nesterov，Y.：凸优化入门讲座。Kluwer学术，多德雷赫特（1996）·兹比尔1086.90045
[44] Drineas，P.，Frieze，A.，Kannan，R.，Vempala，S.，Vinay，V.：通过奇异值分解聚类大型图。机器。学习。56(1), 9-33 (2004) ·Zbl 1089.68090号 ·doi:10.1023/B:MACH.0000033113.59016.96
[45] Drineas，P.，Kannan，R.，Mahoney，M.W.：矩阵的快速蒙特卡罗算法ii：计算矩阵的低阶近似。SIAM J.计算。36, 158-183 (2006) ·Zbl 1111.68148号 ·doi:10.1137/S0097539704442696
[46] Deshpande，A。；拉德马赫，L。；Vempala，S。；Wang，G.，矩阵近似和通过体积采样的投影聚类，纽约，纽约，美国，纽约·Zbl 1192.68889号 ·doi:10.1145/1109557.1109681
[47] Deshpande，A.，Vempala，S.：自适应采样和快速低秩矩阵近似。电子。集体计算。复杂。13442（2006年）·Zbl 1155.68575号
[48] Keshavan，R.H.，Montanari，A.，Oh，S.：从几个条目中完成矩阵。IEEE传输。《信息论》56（6），2980-2998（2010）·Zbl 1366.62111号 ·doi:10.1109/TIT.2010.2046205
[49] 巴尔扎诺，L。；诺瓦克，R。；Recht，B.，《从高度不完整信息在线识别和跟踪子空间》，704-711（2010），纽约
[50] He，J.，Balzano，L.，Lui，J.C.S.：基于部分信息的在线鲁棒子空间跟踪（2011）。arXiv:1109.3827
[51] Boumal，N。；Absil，P.A.，Rtrmc:低秩矩阵补全的黎曼信任区域方法（2011）
[52] Wen，Z.，Yin，W.，Zhang，Y.：用非线性逐次过松弛算法求解矩阵完备的低秩因子分解模型。莱斯大学CAAM技术报告TR10-07（2010）提交·Zbl 1271.65083号
[53] Larsen，R.M.：Propack：大型稀疏svd计算软件。http://soi.stanford.edu/rmunk/支持
[54] Shi，X.，Yu，P.S.：通过迹范数最小化实现矩阵补全的局限性。ACM SIGKDD探索。新闻。12(2), 16-20 (2011) ·数字对象标识代码：10.1145/1964897.1964902
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。