×

精确非负矩阵分解的启发式。 (英语) Zbl 1341.65057号

摘要:精确非负矩阵因式分解(精确NMF)问题如下:给定一个(m)by-(n)non-negative matrix(X)和一个因式分解秩(r),如果可能的话,找到一个(m\)by-。在本文中,我们提出了两种精确NMF的启发式算法,一种来自模拟退火,另一种来自贪婪随机自适应搜索过程。我们从经验上证明了这两种启发式算法能够计算几类非负矩阵(即线性欧氏距离矩阵、松弛矩阵、唯一双连通矩阵和随机生成矩阵)的精确非负因式分解,因此证明了它们优于标准的多部分策略。我们还考虑了这两种启发式之间的混合,这使我们能够结合这两种方法的优点。最后,我们讨论了这些启发式方法的使用,以深入了解非负秩的行为,即存在精确NMF的最小因式分解秩。特别地,我们反驳了关于Kronecker积的非负秩的一个猜想,提出了泛型gons的扩展复杂度的一个新的上界,并猜测了(i)正则gons的扩张复杂度和(ii)相关多面体松弛矩阵的子矩阵的非负阶的精确值。

MSC公司:

2005年5月 并行数值计算
15A23型 矩阵的因式分解
90C27型 组合优化
90 C59 数学规划中的近似方法和启发式
15个B48 正矩阵及其推广;矩阵的锥

软件:

QEPCAD公司
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Arora,S.、Ge,R.、Kannan,R.和Moitra,A.:计算非负矩阵因式分解。第44届计算理论研讨会论文集,STOC’12,第145-162页,(2012)·Zbl 1286.15014号
[2] Beasley,L.,Laffey,T.:真实等级与非负等级。线性代数应用。431(12), 2330-2335 (2009) ·Zbl 1185.15002号 ·doi:10.1016/j.laa.2009.02.034
[3] Beasley,L.,Lee,T.,Klauck,H.,Theis,D.:Dagstuhl报告13082:矩阵非负秩的通信复杂性、线性优化和下限(2013)。arXiv:1305.4147
[4] Ben-Tal,A.,Nemirovski,A.:关于二阶锥的多面体近似。数学。操作。第26(2)号决议,193-205(2001)·Zbl 1082.90133号 ·doi:10.1287/门26.2.193.10561
[5] Bocci,C.,Carlini,E.,Rapallo,F.:矩阵扰动和非负秩与统计模型。SIAM J.矩阵分析。申请。32(4), 1500-1512 (2011) ·Zbl 1242.15031号 ·数字对象标识代码:10.1137/10825455
[6] Boutsidis,C.,Gallopoulos,E.:基于SVD的初始化:非负矩阵因式分解的先行者。模式识别。41(4), 1350-1362 (2008) ·Zbl 1131.68084号 ·doi:10.1016/j.patcog.2007.09.010
[7] Brown,C.W.:Qepcad b:使用cads计算半代数集的程序。ACM SIGSAM公牛。37(4), 97-108 (2003) ·Zbl 1083.68148号 ·数字对象标识代码:10.1145/968708.968710
[8] Carlini,E.,Rapallo,F.:概率矩阵、非负秩和混合模型的参数化。线性代数应用。433, 424-432 (2010) ·Zbl 1196.15034号 ·doi:10.1016/j.laa.2010.03.010
[9] Cichocki,A.,Amari,S.-I.,Zdunk,R.,Phan,A.:非负矩阵和张量因子分解:在探索性多路数据分析和盲源分离中的应用。威利,伦敦(2009)·doi:10.1002/9780470747278
[10] Cichocki,A.,Phan,A.H.:大规模非负矩阵和张量因子分解的快速局部算法。IEICE传输。芬丹。电子。E92-A(3),708-721(2009)·doi:10.1587/transfun。E92.A.708型
[11] Cichocki,A.,Zdunk,R.,Amari,S.-i.:非负矩阵和三维张量因子分解的层次ALS算法。计算机科学课堂讲稿(Springer,2007),第169-176页·Zbl 1172.94390号
[12] Cohen,J.,Rothblum,U.:非负矩阵的非负秩、分解和因式分解。线性代数应用。190, 149-168 (1993) ·Zbl 0784.15001号 ·doi:10.1016/0024-3795(93)90224-C
[13] Conforti,M.,Cornuéjols,G.,Zambelli,G.:组合优化中的扩展公式。4OR A Q.J.操作。第10(1)号决议,1-48(2010)·Zbl 1219.90193号 ·doi:10.1007/s10288-010-0122-z
[14] de Caen,D.,Gregory,D.A.,Pullman,N.J.:零一矩阵的布尔秩。《第三届加勒比组合数学与计算会议记录》(巴巴多斯),第169-173页(1981年)·Zbl 0496.20052号
[15] Fawzi,H.,Gouveia,J.,Parrilo,P.,Robinson,R.,Thomas,R.:正半定秩(2014)。arXiv:1407.4095
[16] Fiorini,S.,Kaibel,V.,Pashkovich,K.,Theis,D.:非负秩和扩展公式的组合界。自由裁量权。数学。313(1), 67-83 (2013) ·Zbl 1259.90111号 ·doi:10.1016/j.disc.2012.09.015
[17] Fiorini,S.、Massar,S.和Pokutta,S.,Tiwarve,H.,de Wolf,R.:线性与半定扩展公式:指数分离和强下界。《第四十四届ACM计算理论研讨会论文集》,ACM,第95-106页,(2012)·Zbl 1286.90125号
[18] Fiorini,S.、Rothvoss,T.、Tiwary,H.:多边形的扩展公式。自由裁量权。计算。地理。48(3), 658-668 (2012) ·Zbl 1290.68122号 ·doi:10.1007/s00454-012-9421-9
[19] Gillis,N.:通过数据预处理实现稀疏且唯一的非负矩阵分解。J.马赫。学习。第13号决议(11月),3349-3386(2012年)·Zbl 1436.15013号
[20] Gillis,N。;Suykens,J.(编辑);Signoretto,M.(编辑);Argyriou,A.(编辑),非负矩阵分解的原因和方法(2014),伦敦
[21] Gillis,N.,Glineur,F.:对稀疏非负矩阵分解使用欠逼近。模式识别。43(4), 1676-1687 (2010) ·Zbl 1191.68783号 ·doi:10.1016/j.patcog.2009.11.013
[22] Gillis,N.,Glineur,F.:非负矩阵分解的加速乘法更新和分层ALS算法。神经计算。24(4), 1085-1105 (2012) ·doi:10.1162/NECO_a_00256
[23] Gillis,N.,Glineur,F.:关于非负秩的几何解释。线性代数应用。437(11), 2685-2712 (2012) ·Zbl 1258.65039号 ·doi:10.1016/j.laa.2012.06.038
[24] Gillis,N.,Vavasis,S.:基于半定规划的预处理,用于更稳健的近可分非负矩阵分解。SIAM J.Optim公司。25, 677-698 (2015) ·Zbl 1316.15015号 ·doi:10.1137/130940670
[25] Goemans,M.:置换面体的最小紧凑公式(2009)。http://math.mit.edu/goemans/PAPERS/置换面体·Zbl 1322.90048号
[26] Gouveia,J.:人物沟通(2014)·Zbl 1232.65068号
[27] Gouveia,J.、Fawzi,H.、Robinson,R.:理性和真正的积极储蓄可以不同(2014)。arXiv:1404.4864·Zbl 1408.15016号
[28] Gouveia,J.,Parrilo,P.,Thomas,R.:凸集的提升和锥因式分解。数学。操作。第38(2)号决议,248-264(2013)·Zbl 1291.90172号 ·doi:10.1287/门1120.0575
[29] Gouveia,J.、Robinson,R.、Thomas,R.:正半定秩的最坏情况结果(2013)。arXiv:1305.4600·Zbl 1344.90046号
[30] Gregory,D.A.,Pullman,N.J.:半环秩:布尔秩和非负秩因式分解。J.联合通知。系统。科学。8(3), 223-233 (1983) ·Zbl 0622.15007号
[31] Hrubeš,P.:关于距离矩阵的非负秩。信息处理。莱特。112(11),457-461(2012)·兹比尔1243.15003 ·doi:10.1016/j.ipl.2012.02.009
[32] Janecek,A.,Tan,Y.:使用自然激励优化对乘法更新NMF算法进行迭代改进。第七届国际自然计算会议第3卷(2011),第1668-1672页·Zbl 1131.68084号
[33] Janecek,A.,Tan,Y.:非负矩阵因式分解的群体智能。Int.J.Swarm Intell公司。第2(4)号决议,12-34(2011)·doi:10.4018/jsir.2011100102
[34] Janecek,A.,Tan,Y.:使用基于人口的算法初始化非负矩阵分解。高级Swarm Intell。6729, 307-316 (2011) ·Zbl 1305.65135号
[35] Kaibel,V.:组合优化中的扩展公式。Optima 85,2-7(2011)
[36] Kaibel,V.,Weltge,S.:相关多峰的扩展复杂性指数增长的简短证明(2013)。arXiv公司:1307.3543·Zbl 1315.52021号
[37] Kim,J.,He,Y.,Park,H.:非负矩阵和张量分解的算法:基于块坐标下降框架的统一视图。J.全局优化。58(2), 285-319 (2014) ·Zbl 1321.90129号 ·doi:10.1007/s10898-013-0035-4
[38] Kim,J.,Park,H.:快速非负矩阵因式分解:一种类似活动集的方法和比较。SIAM J.科学。计算。33(6), 3261-3281 (2011) ·Zbl 1232.65068号 ·数字对象标识代码:10.1137/10821172
[39] Lee,D.,Seung,H.:通过非负矩阵分解学习对象的各个部分。《自然》401,788-791(1999)·Zbl 1369.68285号 ·doi:10.1038/44565
[40] Lee,D.,Seung,H.:非负矩阵分解的算法。《神经信息处理系统进展》,第13卷,第556-562页(2001年)
[41] Lee,T.,Shraibman,A.:沟通复杂性的下限。已找到。趋势理论。计算。科学。3(4), 263-399 (2007) ·Zbl 1193.94002号
[42] Moitra,A.:计算非负秩的几乎最优算法。《第24届ACM-SIAM离散算法年度研讨会论文集》(SODA'13),第1454-1464页(2013)·兹比尔1422.68130
[43] Oelze,M.,Vandaele,A.,Weltge,S.:计算所有四维0/1多胞体的扩展复杂性(2014)。arXiv:1406.4895
[44] Padrol,A.,Pfeifle,J.:《多边形作为高维多面体的切片》(2014)。arXiv:1404.2443·2008年12月13日
[45] Pirlot,M.:通用局部搜索方法。欧洲药典。第92(3)号决议,493-511(1996)·Zbl 0914.90227号 ·doi:10.1016/0377-2217(96)00007-0
[46] Rothvoss,T.:匹配多边形具有指数扩展复杂性(2013)。arXiv:1311.2369·Zbl 1315.90038号
[47] Shitov,Y.:《多边形的次线性延伸》(2014)。arXiv:1412.0728号
[48] Shitov,Y.:非负秩的上界。J.组合理论系列。A 122126-132(2014)·Zbl 1316.52020年 ·doi:10.1016/j.jcta.2013.10.04
[49] Shitov,Y.:非负排名取决于领域(2015)。arXiv公司:1505.01893·Zbl 1465.15044号
[50] Takahashi,N.,Hibi,R.:非负矩阵分解的修正乘法更新的全局收敛性。计算。最佳方案。申请。57(2), 417-440 (2014) ·Zbl 1305.65135号 ·doi:10.1007/s10589-013-9593-0
[51] Thomas,L.:非负矩阵的秩因子分解。SIAM第16版(3),393-394(1974)·doi:10.1137/1016064
[52] Vandaele,A.,Gillis,N.,Glineur,F.:关于正则N边的线性扩展复杂性(2015)。arXiv:1505.08031·Zbl 1360.52025号
[53] Vavasis,S.:关于非负矩阵分解的复杂性。SIAM J.Optim公司。20(3), 1364-1377 (2010) ·Zbl 1206.65130号 ·doi:10.1137/070709967
[54] Watson,T.:《通信复杂性中的抽样与明确的非决定论》(2014)。http://www.cs.toronto.edu网站/托马斯/论文/nnr·Zbl 1191.68783号
[55] Yannakakis,M.:用线性程序表示组合优化问题。J.计算。系统。科学。43(3), 441-466 (1991) ·Zbl 0748.90074号 ·doi:10.1016/0022-0000(91)90024-Y
[56] Zdunk,R.:用凸多面体顶点初始化非负矩阵因式分解。收录于:《人工智能与软计算》,第7267卷,第448-455页。计算机科学课堂讲稿(2012)·Zbl 1369.68285号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不声称其完整性或完全匹配。