×

基于α散度的NMF算法的多重稳定性。 (英语) 2015年12月12日

摘要:分析了一类基于Amariα-发散的非负矩阵因式分解学习算法的多稳定性。分析结果表明,可以为更新算法构造不变集。在这些不变集中,可以保证所讨论算法的非收敛性。基于李亚普诺夫稳定性定理,证明了这类学习算法在其更新规则域内的局部收敛性。在仿真中,将分析结果应用于图像表示。实验结果表明,为这些非负矩阵分解算法的不同应用选择合适的初始数据非常重要。

MSC公司:

15A23型 矩阵的因式分解
62B10型 信息理论主题的统计方面
65层99 数值线性代数
68单位10 图像处理的计算方法

软件:

ICALAB公司
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Lee,D.D。;Seung,H.S.,通过非负矩阵分解学习对象的各个部分,《自然》,401,788-791(1999)·Zbl 1369.68285号
[2] Lee,D.D。;Seung,H.S.,非负矩阵分解算法,(NIPS,第13卷(2001),麻省理工学院出版社)
[3] Cichocki,A。;扎杜克,R。;Amari,S.,《Csiszar对非负矩阵分解的分歧:新算法家族》,(第六届独立分量分析和盲信号分离国际会议,第六届国际独立分量分析与盲信号分离会议,LNCS,第3889卷(2006),Springer:Springer-Charleston,南卡罗来纳州,美国), 32-39 ·Zbl 1178.94057号
[4] Kompass,R.,非负矩阵分解的广义散度测度,神经计算,19780-791(2007)·Zbl 1127.68081号
[5] Amari,S.,《统计学中的微分几何方法》(1985),Springer Verlag·Zbl 0559.62001
[6] 迪伦,I.S。;Sra,S.,带Bregman发散的广义非负矩阵近似,(神经信息处理系统进展,第18卷(2006),麻省理工学院出版社)
[7] S.Z.Li,X.W.Hou,H.J.Zhang,Q.S.Cheng,学习基于空间局部化部件的表示,摘自:IEEE计算机视觉和模式识别国际会议论文集,夏威夷考艾岛,2001年,第207-212页。;S.Z.Li,X.W.Hou,H.J.Zhang,Q.S.Cheng,学习基于空间局部化部件的表示,摘自:IEEE计算机视觉和模式识别国际会议论文集,夏威夷考艾岛,2001年,第207-212页。
[8] J.I.Buciu,I.Pitas,一种应用于面部表情识别的新稀疏图像表示算法,载于:IEEE信号处理机器学习研讨会,巴西圣路易斯,2004年,第539-548页。;J.I.Buciu,I.Pitas,一种应用于面部表情识别的新稀疏图像表示算法,收录于:IEEE信号处理机器学习研讨会,巴西圣路易斯,2004年,第539-548页。
[9] Wang,Y。;贾毅。;胡,C。;Turk,M.,人脸识别的非负矩阵分解框架,国际模式识别与人工智能杂志,19,4495-511(2005)
[10] Spratling,M.W.,《用于对象识别的学习图像组件》,《机器学习研究杂志》,第7793-815页(2006)·Zbl 1222.68308号
[11] Shahnaz,F。;贝里,M。;Pauca,P。;Plemmons,R.,使用非负矩阵分解的文档聚类,信息处理和管理,42373-386(2006)·Zbl 1087.68104号
[12] R.Zass,A.Shashua,《硬聚类和概率聚类的统一方法》,载:国际计算机视觉会议,ICCV,中国北京,2005年10月。;R.Zass,A.Shashua,《硬聚类和概率聚类的统一方法》,载于:国际计算机视觉会议,ICCV,中国北京,2005年10月。
[13] 徐伟,刘晓霞,龚永勇,基于非负矩阵分解的文档聚类,载:《ACM SIGIR信息检索研究与开发国际会议论文集》,加拿大多伦多,2003年。;徐伟,刘晓霞,龚义勇,基于非负矩阵分解的文档聚类,载《ACM SIGIR信息检索研究与开发国际会议论文集》,加拿大多伦多,2003年。
[14] Cho,Y.C。;Choi,S.,用于分类的光谱时间声音的非负特征,模式识别字母,261327-1336(2005)
[15] Lee,H。;Cichocki,A。;Choi,S.,运动图像EEG分类的非负矩阵分解,(《人工神经网络国际会议论文集》(2006),施普林格:希腊施普林格雅典)
[16] Guillamet博士。;维玛,J。;Schiele,B.,为图像分类引入加权非负矩阵分解,模式识别快报,24,14,2447-2454(2003)·Zbl 1047.68123号
[17] J.H.Ahn,S.Kim,J.H.Oh,S.Choi,动态PET图像的多重非负矩阵分解,载《亚洲计算机视觉会议论文集》,2004年。;J.H.Ahn,S.Kim,J.H.Oh,S.Choi,动态PET图像的多重非负矩阵分解,载《亚洲计算机视觉会议论文集》,2004年。
[18] 布鲁内特,J.P。;Tamayo,P。;Golub,T.R。;Mesirov,J.P.,使用矩阵因子分解发现转基因和分子模式,美国国家科学院学报,101,12,4164-4169(2004)
[19] 高,Y。;Church,G.,通过稀疏非负矩阵分解改进分子癌症类别发现,生物信息学,21,21,3970-3975(2005)
[20] E.F.Gonzales,Y.Zhang,加速非负矩阵分解的Lee-Seung算法,莱斯大学计算与应用数学系技术报告,2005年。;E.F.Gonzales,Y.Zhang,加速非负矩阵分解的Lee-Seung算法,技术报告,莱斯大学计算与应用数学系,2005年。
[21] Lv,J.C。;Tan,K.K。;Yi,Z。;Huang,S.,Hyvrinen和Oja的ICA学习算法在恒定学习率下的收敛性分析,IEEE信号处理学报,57,5,1811-1824(2009)·Zbl 1392.68354号
[22] Lv,J.C。;Tan,K.K。;Yi,Z。;Huang,S.,ICA神经网络一类学习算法的稳定性和混沌,《神经处理快报》,28,1,35-47(2008)
[23] 卡特拉尔,M。;Han,L.等人。;Neumann,M。;Plemmons,R.,关于对称非负矩阵的降秩非负矩阵因式分解,线性代数及其应用,393107-126(2004)·Zbl 1085.15012号
[24] Berry,M.W。;布朗,M。;A.Langville。;Pauca,V。;Plemmons,R.,近似非负矩阵分解的算法和应用,计算统计学和数据分析,52,1155-173(2007)·Zbl 1452.90298号
[25] 巴多,R。;Bertin,N。;Vincent,E.,乘法更新算法的稳定性分析及其在非负矩阵分解中的应用,IEEE神经网络汇刊,21,12,1869-1881(2010)
[26] Lin,C.J.,关于非负矩阵分解乘法更新算法的收敛性,IEEE神经网络汇刊,18,6,1589-1596(2007)
[27] Yang,S。;Yi,Z.,BSS算法非负矩阵分解的收敛性分析,《神经处理快报》,31,1,45-64(2010)
[28] Cichocki,A。;Lee,B.H。;Deok,K.Y.(戴克,K.Y.)。;Choi,B.S.,带α-发散的非负矩阵分解,模式识别字母,29,9,1433-1440(2008)
[29] 徐,L。;Oja,E。;Suen,C.Y.,用于曲线和曲面拟合的改进hebbian线性化,神经网络,5,441-457(1992)
[30] A.Cichocki,S.Amari,K.Siwek,T.Tanaka,《ICALAB软件包:图像处理》,1.2版,RIKEN脑科学研究所,日本柴达木市瓦科市,2006年7月。;A.Cichocki,S.Amari,K.Siwek,T.Tanaka,《ICALAB软件包:图像处理》,1.2版,RIKEN脑科学研究所,日本柴达木市Wako-shi,2006年7月。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。