×

简单结构矩阵分解:基于稀疏性的可识别性和可证明正确的算法。 (英语) Zbl 07368848号

摘要:在本文中,我们为简单结构矩阵分解(SSMF)提供了具有可识别性保证的新算法,SSMF是非负矩阵分解的推广。当前为SSMF提供可识别性结果的最新算法依赖于充分分散条件(SSC),该条件要求数据点在基向量的凸壳内均匀分布。在大多数情况下,我们提出的算法恢复唯一分解的条件比SSC弱得多。我们只需要在维数为(d-1)的基向量的凸壳的每个面上有(d)个点。关键思想是基于提取包含最多点的面。我们说明了我们的方法在合成数据集和高光谱图像上的有效性,表明它优于最先进的SSMF算法,因为它能够处理更高的噪声水平、秩亏矩阵、离群值和严重违反SSC的输入数据。

MSC公司:

65层50 稀疏矩阵的计算方法
15A23型 矩阵的因式分解
94甲12 信号理论(表征、重建、滤波等)
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] A.M.S.Ang和N.Gillis,高光谱分解中非负矩阵分解与体积正则化的算法和比较,IEEE J.Sel。顶部。申请。地球。《牛津大学遥感》,第12期(2019年),第4843-4853页。
[2] M.C.U.Araújo、T.C.B.Saldanha、R.K.H.Galvao、T.Yoneyama、H.C.Chame和V.Visani,光谱多组分分析中变量选择的连续投影算法,Chemom。智力。实验室系统。,57(2001),第65-73页。
[3] S.Arora,R.Ge,Y.Halpern,D.Mimno,A.Moitra,D.Sontag,Y.Wu和M.Zhu,《具有可证明保证的主题建模实用算法》,《国际机器学习会议论文集》,2013年,第280-288页。
[4] S.Arora、R.Ge、R.Kannan和A.Moitra,《计算非负矩阵因式分解的证明》,载《第四十四届ACM计算理论研讨会论文集》,2012年,第145-162页·Zbl 1286.15014号
[5] S.Arora,R.Ge,R.Kannan,A.Moitra,计算非负矩阵因式分解,SIAM J.Compute。,45(2016),第1582-1611页,https://doi.org/10.1137/130913869。 ·Zbl 1350.68123号
[6] S.Arora、R.Ge和A.Moitra,《学习主题模型——超越SVD》,第53届IEEE计算机科学基础研讨会论文集,2012年。
[7] P.Belotti、P.Bonami、M.Fischetti、A.Lodi、M.Monaci、A.Nogales-Goömez和D.Salvagnin,《关于混合整数规划中指标约束的处理》,计算。最佳方案。申请。,65(2016),第545-566页·Zbl 1357.90094号
[8] J.M.Bioucas-Dias、A.Plaza、N.Dobigeon、M.Parente、Q.Du、P.Gader和J.Chanussot,高光谱分解概述:几何、统计和稀疏回归方法,IEEE J.Sel。顶部。申请。地球。Obs.Remote Sens.,5(2012),第354-379页。
[9] D.Bremner,K.Fukuda和A.Marzetta,顶点和面枚举的原始对偶方法,离散计算。地理。,20(1998年),第333-357页·Zbl 0910.68217号
[10] A.Cichocki、R.Zdunk、A.H.Phan和S.-i.Amari,《非负矩阵和张量因子分解:探索性多路数据分析和盲源分离的应用》,John Wiley&Sons,纽约,2009年。
[11] J.E.Cohen和N.Gillis,《完整词典学习的可识别性》,SIAM J.Math。数据科学。,1(2019年),第518-536页,https://doi.org/10.1137/18M1233339。 ·Zbl 1513.68045号
[12] CPLEX IBM ILOG,V12.1:CPLEX用户手册,国际商业机器公司,2009,46(53),157。
[13] X.Fu,K.Huang和N.D.Sidiropoulos,关于非负矩阵分解的可识别性,IEEE信号处理。莱特。,25(2018),第328-332页。
[14] X.Fu,K.Huang,N.D.Sidiropoulos和W.-K.Ma,《信号和数据分析的非负矩阵分解:可识别性、算法和应用》。,IEEE信号处理。Mag.,36(2019),第59-80页。
[15] X.Fu,K.Huang,N.D.Sidiropoulos,Q.Shi,M.Hong,无锚相关主题建模,IEEE Trans。模式分析。机器。智力。,41(2019),第1056-1071页。
[16] X.Fu,K.Huang,B.Yang,W.-K.Ma和N.D.Sidiropoulos,遥感和文档聚类中基于稳健体积最小化的矩阵分解,IEEE Trans。信号处理。,64(2016),第6254-6268页·Zbl 1414.94205号
[17] X.Fu、W.-K.Ma、T.-H.Chan和J.M.Bioucas-Dias,《用于高光谱分解的自字典稀疏回归:贪婪追求和纯像素搜索相关》,IEEE J.Sel。主题信号处理。,9(2015),第1128-1141页。
[18] X.Fu,W.-K.Ma,K.Huang,和N.D.Sidiropoulos,准静态源的盲分离:利用协方差域中的凸几何,IEEE Trans。信号处理。,63(2015),第2306-2320页·Zbl 1394.94194号
[19] X.Fu、N.Vervliet、L.De Lathauwer、K.Huang和N.Gillis,用结构因子计算大规模矩阵和张量分解:统一的非凸优化观点,IEEE信号处理。Mag.,37(2020),第78-94页。
[20] R.Ge和J.Zou,《相交面:具有新保证的非负矩阵分解》,载《第32届机器学习国际会议论文集》,2015年,第2295-2303页。
[21] 吉利斯,稳健非负盲源分离的逐次非负投影算法,SIAM J.成像科学。,7(2014),第1420-1450页,https://doi.org/10.1137/10946782。 ·Zbl 1296.65065号
[22] N.Gillis,《非负矩阵因式分解的原因和方法》,载于《正则化、优化、内核和支持向量机》,CRC出版社,佛罗里达州博卡拉顿,2015年,第257-291页。
[23] N.Gillis和A.Kumar,半非负矩阵分解的精确和启发式算法,SIAM J.矩阵分析。申请。,36(2015),第1404-1424页,https://doi.org/10.1137/140993272。 ·Zbl 1327.15027号
[24] N.Gillis和R.Luce,使用线性优化的鲁棒近可分非负矩阵分解,J.Mach。学习。Res.,15(2014),第1249-1280页·Zbl 1319.90044号
[25] N.Gillis和S.A.Vavasis,可分离非负矩阵分解的快速鲁棒递归算法,IEEE Trans。模式分析。机器。智力。,36(2014),第698-714页·Zbl 1316.15015号
[26] K.Huang、X.Fu和N.D.Sidiropoulos,从两两共现中学习隐马尔可夫模型及其在主题建模中的应用,预印本,https://arxiv.org/abs/1802.06894, 2018.
[27] K.Huang,N.D.Sidiropoulos和A.Swami,《重访非负矩阵分解:对称分解的唯一性和算法》,IEEE Trans。信号处理。,62(2014),第211-224页·Zbl 1393.15016号
[28] M.Kleder,CON2VERT-顶点约束,MathWorks文件交换;可在线访问https://au.mathworks.com/matlabcentral/fileexchange, 2005.
[29] V.Leplat、A.M.Ang和N.Gillis,最小体积秩亏非负矩阵分解,收录于IEEE声学、语音和信号处理国际协调会(ICASSP),2019年,第3402-3406页。
[30] V.Leplat、N.Gillis和A.M.S.Ang,最小体积β-发散NMF盲音频源分离,IEEE Trans。信号处理。,68(2020),第3400-3410页·兹比尔1523.94026
[31] C.-H.Lin和J.M.Bioucas-Dias,通过John椭球对病态混合物进行非负盲源分离,IEEE Trans。神经网络。学习。系统。,(2020), https://doi.org/10.109/TNNLS.2020.3002618。
[32] C.-H.Lin、C.-Y.Chi、Y.-H.Wang和T.-H.Chan,用于盲高光谱分解的快速基于超平面的最小体积封闭单纯形算法,IEEE Trans。信号处理。,64(2015),第1946-1961页·Zbl 1414.94345号
[33] C.-H.Lin、W.-K.Ma、W.C.Li、C.-Y.Chi和A.Ambikapathi,盲高光谱分解的单纯形体积最小化准则的可识别性:非像素情况,IEEE Trans。地质科学。远程传感器,53(2015),第5530-5546页。
[34] C.-H.Lin,R.Wu,W.-K.Ma,C.-Y.Chi,Y.Wang,最大体积内切椭球体:一种新的基于面枚举和凸优化的简单结构矩阵分解框架,SIAM J.Imaging Sci。,11(2018),第1651-1679页,https://doi.org/10.1137/17M114145X。 ·Zbl 1441.94019号
[35] W.-K.Ma、J.M.Bioucas-Dias、T.-H.Chan、N.Gillis、P.Gader、A.J.Plaza、A.Ambikapathi和C.Y.Chi,《高光谱分解的信号处理视角:来自遥感的见解》,IEEE信号处理。Mag.,31(2013),第67-81页。
[36] L.Miao和H.Qi,使用最小体积约束非负矩阵分解从高度混合数据中提取端元,IEEE Trans。地质科学。《遥感》,45(2007),第765-777页。
[37] B.Recht、C.Re、J.Tropp和V.Bittorf,用线性程序分解非负矩阵,《神经信息处理系统进展》,麻省理工学院出版社,马萨诸塞州剑桥,2012年,第1214-1222页。
[38] G.Salmani Jajaei,《旋转支持超平面和Snug外切单纯形》,弗吉尼亚州里士满弗吉尼亚联邦大学博士论文,2018年。
[39] 孙毅,辛坚,非负和部分重叠数据的欠定稀疏盲源分离,SIAM J.Sci。计算。,33(2011),第2063-2094页,https://doi.org/10.1137/100788434。 ·Zbl 1234.94017号
[40] M.Udell、C.Horn、R.Zadeh和S.Boyd,《广义低秩模型》,Found。趋势马赫数。学习。,9(2016),第1-118页·Zbl 1350.68221号
[41] L.A.Wolsey,《混合整数编程》,载于《威利计算机科学与工程百科全书》,John Wiley&Sons,纽约,2007年,第1-10页。
[42] R.Wu、W.-K.Ma和X.Fu,《单形结构矩阵分解的随机最大似然框架》,《IEEE声学、语音和信号处理国际会议论文集》,2017年,第2557-2561页。
[43] F.Zhu,高光谱解混:地面真相标记,数据集,基准性能和调查,预印本,https://arxiv.org/abs/1708.05125, 2017.
[44] G.Ziegler,《关于多面体的讲座》,Springer-Verlag,纽约,1995年·Zbl 0823.52002号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。