×

鲁棒PCA和(ell_1)范数低秩矩阵逼近的复杂性。 (英语) Zbl 1434.65054号

摘要:与稳健主成分分析(PCA)密切相关的关于分量-线性(ell_1)-范数(LRA)的低阶矩阵逼近问题,已成为数据挖掘和机器学习中非常流行的工具。鲁棒PCA旨在恢复受到稀疏噪声干扰的低秩矩阵,例如在前景背景视频分离中的应用。尽管人们强烈认为LRA是NP-hard,但据我们所知,还没有正式证据证明这一事实。在本文中,我们使用MAX CUT的约简证明了在秩一的情况下,(ell_1)-LRA是NP-hard。我们的推导在\(\ell_1\)-LRA和其他几个众所周知的问题之间建立了有趣的联系,即鲁棒PCA、\(\ell_0\)-LRA、二元矩阵分解、一个特殊的最稠密二分子图问题、\(-1,+1\)矩阵的割范数的计算和离散基问题,所有这些我们都证明是NP难的。

MSC公司:

65层55 低阶矩阵逼近的数值方法;矩阵压缩
15A23型 矩阵的因式分解
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Alon N,Naor A(2006)通过Grothendieck不等式逼近割形。SIAM J.计算。35(4):787-803.Crossref,谷歌学者·Zbl 1096.68163号 ·doi:10.1137/S0097539704441629
[2] Ames B,Vavassis S(2011)《种植集团和两党问题的核规范最小化》。数学。编程129(1):69-89。Crossref,谷歌学者·Zbl 1271.90056号 ·doi:10.1007/s10107-011-0459-x
[3] Asahiro Y,Hassin R,Iwama K(2002)发现稠密子图的复杂性。离散应用程序。数学。121(1):15-26.Crossref,谷歌学者·Zbl 1002.68108号 ·doi:10.1016/S0166-218X(01)00243-8
[4] Brooks J,DuláJ(2013)《L1-形式最佳拟合超平面问题》。申请。数学。莱特。26(1):51-55.Crossref,谷歌学者·Zbl 1255.65111号 ·doi:10.1016/j.aml.2012.03.031
[5] Brooks J,DuláJ,Boone E(2013)纯L1-形式主成分分析。计算统计学家。数据分析。61:83-98.Crossref,谷歌学者·Zbl 1349.62247号 ·doi:10.1016/j.csda.2012.11.007
[6] Brown T,Spencer J(1971)线位移下±1矩阵的最小化。数学座谈会第23卷(波兰科学院数学研究所),165-171.Crossref,谷歌学者·Zbl 0222.05016号 ·doi:10.4064/cm-23-1-165-171
[7] Candès E,Li X,Ma Y,Wright J(2011)稳健主成分分析?美国临床医学杂志58(3):第11条谷歌学者Crossref·Zbl 1327.62369号 ·数字对象标识代码:10.1145/1970392.1970395
[8] Chandrasekaran V,Sanghavi S,Parrilo P,Willsky A(2011)矩阵分解的秩稀疏性不相干。SIAM J.Optim公司。21(2):572-596.Crossref,谷歌学者·Zbl 1226.90067号 ·数字对象标识代码:10.1137/090761793
[9] Chi E,Kolda T(2012)关于张量、稀疏性和非负因子分解。SIAM J.矩阵分析。申请。33(4):1272-1299.Crossref,谷歌学者·Zbl 1262.15029号 ·doi:10.137/110859063
[10] Clarkson K,Woodruff D(2015)稳健子空间近似的输入稀疏性和硬度。第56届IEEE年度交响曲。基础计算。科学。(FOCS 2015)。谷歌学者
[11] Doan X,Vavasis S(2013)发现核规范和1-标准。SIAM J.Optim公司。23(4):2502-2540.谷歌学者交叉引用·Zbl 1297.90114号 ·数字对象标识代码:10.1137/100814251
[12] Eriksson A,Van Den Hengel A(2010)使用l1范数在存在缺失数据的情况下高效计算鲁棒低秩矩阵近似。IEEE会议计算。视觉和模式识别(CVPR’10),771-778。谷歌学者
[13] Fiorini S,Kaibel V,Pashkovich K,Theis D(2013)非负秩和扩展公式的组合界。离散数学。313(1):67-83.谷歌学者Crossref·Zbl 1259.90111号 ·doi:10.1016/j.disc.2012.09.015
[14] Frieze A,Kannan R(1999)《矩阵的快速逼近与应用》。组合数学19(2):175-220.谷歌学者交叉引用·Zbl 0933.68061号 ·doi:10.1007/s004930050052
[15] Gabriel K,Zamir S(1979)用任何权重选择的最小二乘法进行矩阵的低阶近似。技术计量学21(4):489-498.Crossref,谷歌学者·Zbl 0471.62004号 ·doi:10.1080/00401706.1979.10489819
[16] Gillis N,Glineur F(2010)使用欠近似进行稀疏非负矩阵分解。模式识别43(4):1676-1687.Crossref,谷歌学者·Zbl 1191.68783号 ·doi:10.1016/j.patcog.2009.11.013
[17] Gillis N,Glineur F(2011)带权重或缺失数据的低秩矩阵近似是NP-hard。SIAM J.矩阵分析。申请。32(4):1149-1165.谷歌学者交叉引用·Zbl 1242.65077号 ·doi:10.137/110820361
[18] Gillis N,Vavasis S(2015)《稳健PCA和1-范数低秩矩阵近似。arXiv:1509.09236.谷歌学者
[19] Golub G,Van Loan C(1996)矩阵计算第三版(约翰·霍普金斯大学出版社,巴尔的摩)。谷歌学者·兹比尔0865.65009
[20] Guruswami V,Raghavendra P,Saket R,Wu Y(2012)从一些最佳几何不可接近性结果中绕过UGC。程序。第二十届ACM-SIAM年度交响乐团。离散算法(SODA 2012),699-717.谷歌学者·Zbl 1421.68062号
[21] Kannan R,Vinay V(1999)分析大型图的结构。手稿,http://www.cs.yale.edu/home/kannan/Papers/webgraph.pdf.Google学者
[22] Ke Q,Kanade T(2003)使用L1范数的稳健子空间计算。技术报告CMU-CS-03-172,卡内基梅隆大学,http://www.cs.cmu.edu/afs/.cs.cmu.edu/Web/People/ke/publications/cmu-cs-03-172.pdf.谷歌学者
[23] Ke Q,Kanade T(2005)在存在离群值和缺失数据的情况下,通过替代凸规划实现鲁棒l1范数分解。IEEE计算。社会协调计算。视觉和模式识别,2005年CVPR(IEEE计算机学会,华盛顿特区),739-746。谷歌学者
[24] Khot S(2006)排除了图最小剖分、稠密k-子图和二部团的PTAS。SIAM J.计算。36(4):1025-1071.Crossref,谷歌学者·Zbl 1127.68035号 ·doi:10.1137/S0097539705447037
[25] Khuller S,Saha B(2009)关于寻找稠密子图。Albers S、Marchetti-Paccamela A、Matias Y、Nikoletseas S、Thomas W编辑。程序。第36届国际。ICALP’09自动化、语言和编程学术讨论会,《计算机科学讲稿》,第5555卷(柏林施普林格出版社),597-608。谷歌学者克罗斯福·Zbl 1248.68560号 ·doi:10.1007/978-3642-02927-1_50
[26] Koren Y,Bell R,Volinsky C(2009)推荐系统的矩阵分解技术。IEEE计算。42(8):30-37.Crossref,谷歌学者·doi:10.1109/MC.2009.263
[27] Kwak N(2008)基于L1范数最大化的主成分分析。IEEE传输。模式分析。机器智能30(9):1672-1680.谷歌学者Crossref·doi:10.1109/TPAMI.2008.114
[28] Markovsky I,Usevich K(2013)缺失数据的结构化低阶近似。SIAM J.矩阵分析。申请。34(2):814-830.Crossref,谷歌学者·Zbl 1271.93017号 ·数字对象标识代码:10.1137/120883050
[29] Miettinen P,Mielikainen T,Gionis A,Das G,Mannila H(2008)离散基问题。IEEE传输。知识和数据工程。20(10):1348-1362。交叉引用,谷歌学者·doi:10.1109/TKDE.2008.53
[30] Mirisaee S,Gaussier E,Termier A(2015)改进了二进制矩阵分解的局部搜索。AAAI Conf.人工智能,1198-1204.谷歌学者
[31] Netrapalli P、Niranjan U、Sanghavi S、Anandkumar A(2014)非凸稳健PCA。高级神经信息。处理系统(NIPS),2080-2088.谷歌学者
[32] Poljak S,Rohn J(1993)检验鲁棒非奇异性是NP-hard。数学。控制、信号和系统6(1):1-9.Crossref,谷歌学者·Zbl 0780.93027号 ·doi:10.1007/BF01213466
[33] 邱C,Vaswani N,Lois B,Hogben L(2014)大型结构化噪声中的递归鲁棒PCA或递归稀疏恢复。IEEE传输。通知。理论60(8):5007-5039.Crossref,谷歌学者·Zbl 1360.94093号 ·doi:10.1109/TIT.2014.2331344
[34] Rohn J(2000)计算范数||A||∞,1是NP-hard。线性代数和多线性代数47(3):195-204.谷歌学者·Zbl 0964.65049号
[35] 沈博华,季S,叶J(2009)通过二元矩阵分解挖掘离散模式。Elder JF IV、Fogelman SouliéF、Flach PA、Javeed Zaki M编辑。程序。第15届ACM SIGKDD国际。2009年KDD Conf.知识发现和数据挖掘(ACM,纽约),757-766。谷歌学者
[36] Shum H,Ikeuchi K,Reddy R(1995)缺失数据的主成分分析及其在多面体对象建模中的应用。IEEE传输。模式分析。机器智能17(9):854-867.Crossref,谷歌学者·数字对象标识代码:10.1109/34.406651
[37] Song Z,Woodruff D,Zhong P(2017)入门级低阶近似1-范数误差。Hatami H、McKenzie P、King V编辑。程序。第49届ACM SIGACT年度交响曲。理论计算。,2017年(ACM,纽约),688-701.谷歌学者·Zbl 1370.68330号
[38] Usevich K,Markovsky I(2014)《格拉斯曼流形的优化及其在系统识别中的应用》。Automatica公司50(6):1656-1662.Crossref,谷歌学者·Zbl 1296.93043号 ·doi:10.1016/j.automatica.2014.04.010
[39] Woodruff D(2014)将草图作为数值线性代数的工具。基础与趋势®理论。计算。科学。10(1-2):1-157.Crossref,谷歌学者·Zbl 1316.65046号 ·doi:10.1561/0400000060
[40] Wright J,Ganesh A,Rao S,Peng Y,Ma Y(2009)稳健主成分分析:通过凸优化精确恢复受损低秩矩阵。高级神经信息。处理系统(NIPS),2080-2088.谷歌学者
[41] Xu H,Caramanis C,Sanghavi S(2012)通过离群值追踪的稳健PCA。IEEE传输。通知。理论58(5):3047-3064.Crossref,谷歌学者·Zbl 1365.62228号 ·doi:10.1109/TIT.2011.2173156
[42] Zhang ZY,Li T,Ding C,Ren XW,Zhang XS(2010)用于分析基因表达数据的二进制矩阵分解。数据最小知识。光盘。20(1):28-52.Crossref,谷歌学者·doi:10.1007/s10618-009-0145-2
[43] 郑毅,
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。