×

固定秩矩阵上的稀疏PCA。 (英语) Zbl 1512.90157号

摘要:稀疏PCA是通过在主成分上添加稀疏约束,从PCA中获得的优化问题。稀疏PCA是NP-hard,即使在单组分情况下也很难近似。本文解决了稀疏PCA相对于协方差矩阵秩的计算复杂性。我们证明,如果协方差矩阵的秩是一个固定值,则存在一种将稀疏PCA求解为全局最优的算法,其运行时间在特征数量上是多项式的。对于要求主成分具有不相交支持的稀疏PCA,我们也证明了类似的结果。

MSC公司:

90C20个 二次规划
90C26型 非凸规划,全局优化
90C60型 数学规划问题的抽象计算复杂性
65年第68季度 算法和问题复杂性分析
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Asteris,M.,Papailiopoulos,D.,Karystinos,G.:秩亏矩阵的稀疏主成分。摘自:ISIT学报(2011)
[2] 星号,M。;Papailiopoulos,D。;Karystinos,G.,常数秩矩阵的稀疏主成分,IEEE Trans。信息理论。,60, 4, 2281-2290 (2014) ·Zbl 1360.94059号 ·doi:10.1109/TIT.2014.2303975
[3] Asteris,M.,Papailiopoulos,D.,Kyrillidis,A.,Dimakis,A.:通过二元匹配的稀疏PCA。In:NIPS会议记录(2015)
[4] 伯克·L。;Bertsimas,D.,可证明最优稀疏主成分分析,数学。程序。计算。,11, 381-420 (2019) ·Zbl 1435.62214号 ·doi:10.1007/s12532-018-0153-6
[5] Bertsimas,D。;Tsitsiklis,J.,《线性优化导论》(1997年),贝尔蒙特:雅典娜科学出版社
[6] Boutsidis,C.,Drineas,P.,Magdon-Ismail,M.:类PCA线性回归的稀疏特征。摘自:NIPS会议记录,第2285-2293页(2011年)
[7] Cadima,J。;Jolliffe,I.,《主要成分解释中的载荷和相关性》,J.Appl。《法律总汇》,22,2203-214(1995)·数字对象标识代码:10.1080/757584614
[8] Chan,S.,Papailiopoulos,D.,Rubinstein,A.:关于稀疏PCA的最坏情况近似性。COLT会议记录(2016)
[9] d'Aspremont,A。;巴赫,F。;Ghaoui,L.,稀疏主成分分析的最优解,J.马赫。学习研究,9,1269-1294(2008)·Zbl 1225.68170号
[10] d'Aspremont,A.,Bach,F.,Ghaoui,L.:稀疏主成分分析的近似界。数学编程系列。148(1),第89-110页·Zbl 1303.90079号
[11] d'Aspremont,A.,El Ghaoui,L.,Jordan,M.,Lanckriet,G.:使用半定规划的稀疏PCA直接公式。SIAM修订版49(3),434-448(2007)·邮编1128.90050
[12] Dey,S.,Mazumder,R.,Wang,G.:最优稀疏PCA的凸整数规划方法。arXiv预印arXiv:1810.09062(2018)
[13] Edelsbrunner,H。;O’Rourke,J。;Seidel,R.,《用应用构造线和超平面的排列》,SIAM J.Compute。,15, 2, 341-363 (1986) ·Zbl 0603.68104号 ·数字对象标识代码:10.1137/012524
[14] Goldberg,A.,Tarjan,R.:通过取消负循环来寻找最小成本循环。收录于:STOC会议记录,第388-397页(1988年)
[15] Goldberg,A。;Tarjan,R.,《通过取消负循环寻找最小成本循环》,J.Assoc.Compute。机器。,36, 873-886 (1989) ·Zbl 0697.68063号 ·数字对象标识代码:10.1145/76359.76368
[16] 哈斯蒂,T。;Tibshirani,R。;Wainwright,M.,Stat.learning Sparsity(2015),博卡拉顿:CRC出版社,博卡拉顿·Zbl 1319.68003号 ·doi:10.1201/b18401
[17] He,Y.,Monteiro,R.,Park,H.:秩-1稀疏PCA的有效算法。In:工作文件(2010)
[18] 乔利夫,I。;北特伦达菲洛夫。;Uddin,M.,基于套索J.Compute的改进主成分技术。图表。《统计》,第12、3、531-547页(2003年)·doi:10.1198/1061860032148
[19] Journée,M。;内斯特罗夫,Y。;里奇塔里克,P。;Sepulchre,R.,稀疏主成分分析的广义幂方法,J.马赫。学习。决议,11517-553(2010年)·Zbl 1242.62048号
[20] Karystinos,G。;Liavas,A.,最大化秩亏二次型的二进制向量的有效计算,IEEE Trans。信息理论。,56, 7, 3581-3593 (2010) ·兹比尔1366.94145 ·doi:10.1109/TIT.2010.2048450
[21] Karystinos,G。;Pados,D.,二进制扩频码的秩2最优自适应设计,IEEE Trans。信息理论。,53, 9, 3075-3080 (2007) ·Zbl 1325.94080号 ·doi:10.1109/TIT.2007.903130
[22] Mackenthun,K.,MPSK多符号差分检测的快速算法,IEEE Trans。社区。,42, 234, 1471-1474 (1994) ·doi:10.1109/TCOMM.1994.582823
[23] Mackey,L.:稀疏PCA的通缩方法。收录于:《NIPS学报》,第21卷,第1017-1024页(2009年)
[24] Magdon-Ismail,M.,稀疏PCA的NP-hardeness和不可接近性,Inf.过程。莱特。,126, 35-38 (2017) ·Zbl 1407.68406号 ·doi:10.1016/j.ipl.2017.05.008
[25] Moghaddam,B.,Weiss,Y.,Avidan,S.:稀疏PCA的谱界:精确和贪婪算法。收录于:NIPS会议记录,第18卷,第915页(2006年)
[26] 莫特丹,I。;Krishnamoorthy,A。;Anastasopoulos,A.,多项式复杂度衰落信道中的最佳联合检测/估计,IEEE Trans。信息理论。,53, 1, 209-223 (2007) ·Zbl 1310.94194号 ·doi:10.1109/TIT.2006.887504
[27] Papailiopoulos,D.,Dimakis,A.,Korokithatakis,S.:通过低阶近似的稀疏主成分分析。In:ICML会议记录(2013)
[28] Schrijver,A.,组合优化。《多面体与效率》(2003),柏林:施普林格-弗拉格出版社,柏林·兹比尔1041.90001
[29] Shalev Shwartz,S。;Ben-David,S.,《理解机器学习》(2014),剑桥:剑桥大学出版社,剑桥·Zbl 1305.68005号 ·doi:10.1017/CBO9781107298019
[30] Sigg,C.,Buhmann,J.:稀疏和非负PCA的期望最大化。摘自:ICML会议记录,第960-967页(2008年)
[31] Sweldens,W.,《快速块非相干解码》,IEEE Commun。莱特。,5,4132-134(2001年)·数字对象标识代码:10.1109/4234.917091
[32] Vu,V.,Lei,J.:高维稀疏PCA的最小最大估计率。摘自:AIStats会议记录,第1278-1286页(2012年)
[33] 袁,X。;Zhang,T.,稀疏特征值问题的截断幂方法,J.Mach。学习。决议,第14号,第899-925页(2013年)·Zbl 1320.62141号
[34] Zhang,Y。;d'Aspremont,A。;LE Ghaoui;Anjos,M。;Lasserre,J.,《稀疏PCA:凸松弛、算法和应用》,《半定、二次曲线和多项式优化手册》,915-940(2011),马萨诸塞州波士顿:斯普林格,马萨诸纳州波士顿·Zbl 1334.90120号 ·doi:10.1007/978-1-4614-0769-031
[35] 邹,H。;哈斯蒂,T。;Tibshirani,R.,稀疏主成分分析,J.Compute。图表。统计,15,2,265-286(2006)·doi:10.1198/106186006X113430
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。