周一丁；卡祖富米·伊藤；邹军 非负矩阵分解的分析及其应用。 （英语） Zbl 1347.15018号 SIAM J.科学。计算。 38，第5号，B645-B684（2016）. 小结：在这项工作中，我们对一种特殊的非负矩阵三因式分解（NMF）进行了一些数学分析，并将这种NMF应用于一些成像和反演问题。我们将根据正向量的张量积提出正数据和图像的稀疏低阶近似，并根据近似中使用的张量乘数研究其有效性。提出了一种新的多级分析框架，用于提取代表不同分辨率结构的矩阵中的主要成分，但仍保留了基的正性和近似的稀疏性。我们还将提出并公式化一种基于原对偶活性集的非负因子分解的半光滑牛顿方法。数值结果表明，在不预先假设数据的底层结构的情况下，所提方法在捕捉反问题图像和结构特征方面的有效性，并提供数据的稀疏低秩表示。 引用于2文件 MSC公司： 15A23型 矩阵的因式分解 15个B48 正矩阵及其推广；矩阵的锥 15A29号 线性代数中的反问题 65层50 稀疏矩阵的计算方法 15A69号 多线性代数，张量微积分 65楼30 其他矩阵算法（MSC2010） 关键词：非负矩阵分解；群集；特征提取；多层次分析；反问题；张量积；牛顿法；数值结果 软件：NMF MATLAB工具箱；NeNMF公司 PDF格式BibTeX公司 XML格式引用 \textit{Y.T.Chow}等人，SIAM J.Sci。计算。38，第5号，B645--B684（2016；Zbl 1347.15018） 全文： 内政部 arXiv公司 参考文献： [1] H.Ammari、J.Garnier、W.Jing、H.Kang、M.Lim、K.Sölna和H.Wang，《多静态成像的数学和统计方法》，数学课堂讲稿。2098，施普林格，查姆，2013年，http://dx.doi.org/10.1007/978-3-319-02585-8doi:10.1007/978-3-319-02585-8·Zbl 1288.35001号 [2] H.Ammari、J.Garnier、H.Kang、M.Lim和K.Sölna，{扩展目标的多静态成像}，SIAM J.成像科学。，5（2012），第564-600页，http://dx.doi.org/10.1137/10080631Xdoi:10.1137/10080631X·Zbl 1344.78023号 [3] H.Ammari、J.Garnier和K.Sølna，《全孔径、线性化电导率和波动成像中的分辨率和稳定性分析》，Proc。阿米尔。数学。Soc.，141（2013），第3431-3446页，http://dx.doi.org/10.1090/S0002-9939-2013-11590-Xdoi:10.1090/S0002-9939-2013-11590-X·Zbl 1317.35291号 [4] J.Bioucas-Dias和J.Nascimento，{高光谱数据信号子空间的估计}，Proc。SPIE 5982，SPIE，华盛顿州贝灵汉，2005年，http://dx.doi.org/10.1117/12.620061doi:10.1117/12.620061。 [5] R.Bro，《食品工业中的多途径分析：模型、算法和应用》，丹麦哥本哈根大学博士论文，1998年。 [6] J.-P.Brunet、P.Tamayo、T.R.Golub和J.P.Mesirov，《利用矩阵分解发现转基因和分子模式》，Proc。国家。阿卡德。科学。美国，102（2004），第4164-4169页，http://dx.doi.org/10.1073/pnas.0308531101doi:10.1073/pnas.0308531101。 [7] E.C.Chi和T.G.Kolda，{关于张量、稀疏性和非负因式分解}，SIAM J.矩阵分析。申请。，33（2012），第1272-1299页，http://dx.doi.org/10.1137/10859063doi:10.1137/10859063·兹比尔1262.15029 [8] 周永通、伊藤、刘国强、邹军，《扩散光学层析成像的直接采样方法》，SIAM J.Sci。计算。，37（2015），第A1658-A1684页，http://dx.doi.org/10.1137/14097519Xdoi:10.1137/14097519X·Zbl 1320.65195号 [9] Y.T.Chow、K.Ito和J.Zou，{阻抗层析成像的直接采样方法}，反问题，30（2014），095003，http://dx.doi.org/10.1088/0266-5611/30/9/095003doi:10.1088/0266-5611/30/9/095003·Zbl 1301.35210号 [10] A.Cichocki和A.Phan，{大规模非负矩阵和张量分解的快速局部算法}，IEICE T.Fund。电气。，E92-A（2009），第708-721页，http://dx.doi.org/10.1587/transfun.E92.A.708doi:10.1587/transfun。E92.A.708。 [11] A.Cichocki，R.Zdunk，and S.I.Amari，{拟Newton优化的非负矩阵分解}，《人工智能与软计算》，人工智能4029讲义，柏林斯普林格，2006年，第870-879页，http://dx.doi.org/10.1002/9780470747278doi:10.1002/9780470747278。 [12] A.Cichocki、R.Zdunk和S.I.Amari，《非负矩阵和三维张量因式分解的层次ALS算法》，摘自《独立分量分析和信号分离》，《计算讲义》。科学。4666，施普林格，柏林，海德堡，2007年，第169-176页，http://dx.doi.org/10.1007/978-3-540-74494-8_22doi:10.1007/978-3-540-74494-8_22·Zbl 1172.94390号 [13] M.Cooper和J.Foote，{使用非负相似矩阵分解总结视频}，《IEEE多媒体信号处理研讨会论文集》，2002年，第25-28页，http://dx.doi.org/10.109/MMSP.2002.1203239doi:10.1109/MMSP.2002.1203239。 [14] I.Daubechies，{紧支撑小波的正交基}，Comm.Pure Appl。数学。，41（1988），第909-996页，http://dx.doi.org/10.1137/0524031doi:10.1137/0524031·Zbl 0644.42026号 [15] M.Daube-Witherspoon和G.Muehlehner，{适用于体积ECT的迭代图像空间重建算法}，IEEE Trans。医学图像。，5（1986年），第61-66页，http://dx.doi.org/10.109/TMI.1986.4307748doi:10.1109/TMI.1986.4307748。 [16] K.Devarajan，{非负矩阵分解：计算生物学中的分析和解释工具}，《公共科学图书馆·计算》。生物，4（2008），e1000029，http://dx.doi.org/10.1093/bioinformatics/btp009doi:10.1093/bioinformatics/btp009。 [17] C.Ding和X.He，{\it K-means clustering via principal component analysis}，《机器学习国际会议论文集》，2004年，第225-232页，http://dx.doi.org/10.1145/1015330.1015408doi:10.1145/1015330.1015408。 [18] C.Ding，X.He和H.D.Simon，{论非负矩阵分解和谱聚类的等价性}，《SIAM数据挖掘会议论文集》，2005年，http://dx.doi.org/10.1137/1.9781611972757.70doi:10.1137/1.9781611972757.70。 [19] C.Ding，T.Li，W.Peng，and H.Park，{聚类的正交非负矩阵三因子化}，载《第十二届ACM SIGKDD国际知识发现与数据挖掘会议论文集》，2006年，第126-135页，http://dx.doi.org/10.1145/1150402.1150420doi:10.1145/1150402.1150420。 [20] E.Esser、M.Muller、S.Osher、G.Sapiro和J.Xin，{物理空间上非负矩阵分解和降维的凸模型}，IEEE Trans。图像处理。，21（2012），第3239-3252页，http://dx.doi.org/10.1109/TIP.2012.2190081doi:10.1109/TIP.2012.2190081·Zbl 1373.15021号 [21] C.Fevotte、N.Bertin和J.L.Durrieu，{非负矩阵因式分解与Itakura-Saito发散：在音乐分析中的应用，}神经计算。，21（2009），第793-830页，http://dx.doi.org/10.1162/neco.2008.04-08-771doi:10.1162/neco.2008.04-08-771·Zbl 1156.94306号 [22] N.Gillis，{非负矩阵分解：复杂性、算法和应用}，博士论文，比利时卢浮天主教大学，2011年。 [23] N.Gillis，《非负矩阵因子分解的原因和方法》，预印本，https://arxiv.org/abs/1401.5226arXiv:1401.52262014年。 [24] N.Gillis和F.Glineur，{非负矩阵分解的加速乘法更新和分层ALS算法}，神经计算。，24（2012），第1085-1105页，http://dx.doi.org/10.1162/NECO_a_00256doi:10.1162/NECO_a_00256。 [25] G.Golub和C.Van Loan，《矩阵计算》，第三版，约翰·霍普金斯大学出版社，马里兰州巴尔的摩，1996年·兹比尔0865.65009 [26] L.Grippo和M.Sciandone，{关于凸约束下块非线性Gauss-Seidel方法的收敛性}，Oper。Res.Lett.公司。，26（2000），第127-136页，http://dx.doi.org/10.1016/S0167-6377（99）00074-7网址：10.1016/S0167-6377（99）0.0074-7·Zbl 0955.90128号 [27] N.Guan，D.Tao，Z.Luo，and B.Yuan，{it NeNMF:非负矩阵分解的最优梯度法}，IEEE Trans。信号处理。，60（2012），第2882-2898页，http://dx.doi.org/10.109/TSP.2012.2190406doi:10.1109/TSP.2012.2190406·兹比尔1391.65115 [28] J.Han、L.Han，M.Neumann和U.Prasad，{关于图像空间重建算法的收敛速度}，Oper。矩阵，3（2009），第41-58页，http://dx.doi.org/10.7153/oam-03-02doi:10.7153/oam-03-02·Zbl 1179.65044号 [29] N.D.Ho，{非负矩阵分解-算法与应用}，博士论文，比利时卢万天主教大学，2008年。 [30] P.O.Hoyer，{稀疏约束下的非负矩阵分解}，J.Mach。学习。决议，5（2003/04），第1457-1469页·Zbl 1222.68218号 [31] K.Ito、B.Jin和J.Zou，{介质散射反问题的直接采样方法}，反问题，28（2012），025003，http://dx.doi.org/10.1088/0266-5611/28/025003doi:10.1088/0266-5611/28/2/025003·Zbl 1241.78025号 [32] K.Ito，B.Jin，and J.Zou，{\it A direct sampling method for inverse electromagnetic medium scattering}，inverse Problems，29（2013），095018，http://dx.doi.org/10.1088/0266-5611/29/9/095018doi:10.1088/0266-5611/29/9/095018·Zbl 1290.78008号 [33] K.Ito，B.Jin和J.Zou，{逆介质散射的两阶段方法}，J.Compute。物理。，237（2013），第211-223页，http://dx.doi.org/10.1016/j.jcp.2012.12.004doi:10.1016/j.jcp.2012.12.004。 [34] K.Ito和K.Kunisch，{变分问题和应用的拉格朗日乘子方法}，SIAM，费城，2008，http://dx.doi.org/10.1137/1.9780898718614doi:10.1137/1.9780898718614·Zbl 1156.49002号 [35] B.Kanagal和V.Sindhwani，{低秩矩阵近似中的秩选择}，《第二十四届神经信息处理系统年会论文集》，2010年，http://citeseerx.ist.psu.edu/viewdoc/summary？doi=10.1.1.185.1337。 [36] H.Kim和H.Park，{通过交替非负约束最小二乘法进行稀疏非负矩阵分解用于微阵列数据分析}，生物信息学，23（2007），第1495-1502页，http://dx.doi.org/10.1093/bioinformatics/btm134doi:10.1093/bioinformatics/btm134。 [37] J.Kim，Y.He，和H.Park，{非负矩阵和张量分解的算法：基于块坐标下降框架的统一视图}，J.Global Optim。，58（2014），第285-319页，http://dx.doi.org/10.1007/s10898-013-0035-4doi:10.1007/s10898-013-0035-4·Zbl 1321.90129号 [38] J.Kim和H.Park，{快速非负矩阵因式分解：一种活性集类方法和比较}，SIAM J.Sci。计算。，33（2011），第3261-3281页，http://dx.doi.org/10.1137/10821172doi:10.137/110821172·Zbl 1232.65068号 [39] D.D.Lee和H.S.Seung，{通过非负矩阵分解学习对象的部分}，《自然》，401（1999），第788-791页，http://dx.doi.org/10.1038/44565doi:10.1038/44565·Zbl 1369.68285号 [40] D.D.Lee和H.S.Seung，《神经信息处理系统的进展》，第13卷，麻省理工学院出版社，马萨诸塞州剑桥，2001年，第556-562页，http://citeseerx.ist.psu.edu/viewdoc/summary？doi=10.1.1.31.7566。 [41] J.Li和J.Zou，{使用远场数据进行逆散射的直接采样方法}，逆Probl。《成像》，第7期（2013年），第757-775页，http://dx.doi.org/10.3934/ipi.2013.7.757doi:10.3934/ipi.2013.7.757·Zbl 1273.35319号 [42] L.Li和Y.J.Zhang，{it FastNMF:高效单调定点非负矩阵分解算法，具有良好的适用性}，J.Electron。成像，18（2009），033004，http://dx.doi.org/10.1117/1.3184771doi:10.1117/1.3184771。 [43] S.Z.Li，X.Hou，H.Zhang，Q.Cheng，{it Learning spatically localized，parts-based representation}，《IEEE计算机视觉与模式识别会议论文集》，2001年，第207-212页，http://dx.doi.org/10.109/CVPR.2001.990477doi:10.1109/CVPR.2001.990477。 [44] Y.Li和A.Ngom，{\it The non-negative matrix factorization toolbox for biology data mining}，BMC Source Code Bio.Med.，8（2013），第10-25页，http://dx.doi.org/10.1186/1751-0473-8-10doi:10.1186/1751-0473-8-10。 [45] 林春杰，{非负矩阵分解的投影梯度法}，神经计算。，19（2007），第2756-2779页，http://dx.doi.org/10.1162/neco/2007.19.10.2756doi:10.1162/neco.2007.19.10.2756·Zbl 1173.90583号 [46] J.Liu，J.Liw，P.Wonka，and J.Ye，{使用柱坐标下降的稀疏非负张量因式分解}，模式识别。，45（2012），第649-656页，http://dx.doi.org/10.1016/j.patcog.2011.05.015doi:10.1016/j.patcog.2011.05.015·Zbl 1225.68233号 [47] Y.Meyer，｛\it Ondelettes et functions splines｝，Seminaire EDP，法国巴黎理工学院，1986年。 [48] P.Paatero和U.Tapper，{正矩阵因式分解：最优利用数据值误差估计的非负因子模型}，环境计量学，5（1994），第111-126页，http://dx.doi.org/10.1002/env.3170050203doi:10.1002/env.3170050203。 [49] R.Potthast，{正交抽样研究}，反问题，26（2010），074015，http://dx.doi.org/10.1088/0266-5611/26/7/074015doi:10.1088/0266-5611/26/7/074015·Zbl 1194.35509号 [50] P.Smaragdis、C.Fevotte、G.Mysore、N.Mohammadiha、M.Hoffman和M.，{使用非负因式分解的静态和动态源分离的统一观点}，IEEE信号处理。Mag.，31（2014），第66-75页，http://dx.doi.org/10.109/MSP.2013.2297715doi:10.10109/MSP.2013.2297715。 [51] V.Tan和C.Fevotte，{非负矩阵分解中的自动相关性确定}，《自适应稀疏结构表示信号处理研讨会论文集》，2009年，http://dx.doi.org/10.109/TPAMI.2012.240doi:10.1109/TPAMI.2012.240。 [52] G.K.Wallace，《JPEG静止图像压缩标准》，}Comm.ACM，34（1991），第30-44页，http://dx.doi.org/10.109/30.125072doi:10.1109/30.125072。 [53] F.Wang，T.Li，X.Wang，S.Zhu，and C.Ding，{使用非负矩阵分解进行社区发现}，Data Min.Knowl。光盘。，22（2011），第493-521页，http://dx.doi.org/10.1007/s10618-010-0181-ydoi:10.1007/s10618-010-0181-y·Zbl 1235.68034号 [54] 徐伟，刘晓霞，龚永勇，{基于非负矩阵因式分解的文献聚类}，载《ACM国际关系研究与发展会议论文集》，2003年，第267-273页，http://dx.doi.org/10.1145/860435.860485doi:10.1145/860435.860485。 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。