×

利用Bregman散度推广β散度及其应用。 (英语) Zbl 1480.62063号

摘要:在统计推断和数据处理问题的理论中,相似性度量(相异性)起着非常重要的作用,尤其是Bregman的分歧。因此,已经使用了多种畸变函数来证明(β)-发散是Bregman发散的子类。本文提出并分析了基于依赖于β的参数函数的勒让德变换,证明了Bregman散度推广了β散度。此外,我们还建立了当β的发散区域扩展到负区域时,由该变换函数导出的距离结构保持不变。通过与现有算法的比较,结果有利于我们在非负矩阵分解(NMF)中对人工数据和实际数据的处理。

MSC公司:

62G05型 非参数估计
62H30型 分类和区分;聚类分析(统计方面)
62华氏35 多元分析中的图像分析
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] B.S.Alexandrov和V.V.Vesselinov,基于非负矩阵分解的地下水压力分析盲源分离,水资源研究50(2014),7332-7347。
[2] A.Banerjee、S.Merugu、I.S.Dhillon和J.Ghosh,《Bregman发散的聚类》,J.Mach。学习。第6号决议(2005年),1705-1749·Zbl 1190.62117号
[3] A.Sotiras、S.M.Resnick和C.Davatzikos,《通过非负矩阵分解发现结构协方差的成像模式》,《神经影像学》108(2015),第1-16页。
[4] Adam C.Earle、Andrew M.Saxe和Benjamin Rosman,非负矩阵分解的分层子任务发现,2017年。
[5] Andrzej Cichocki,Rafal Zdunk和Shun-Ichi Amari,Amari对非负矩阵分解的分歧:新算法家族,独立分量分析和盲源分离会议,2006年,第32-39页·Zbl 1178.94057号
[6] Andrzej Cichocki、Rafa Zdunk、Seungjin Choi、Robert J.Plemmons和Shun-Ichi Amari,使用α和β发散的非负张量因式分解,IEEE声学、语音和信号处理国际会议,2007年第3卷,第1393-1396页。
[7] Andrzej Cichocki、Rafa Zdunk和Shun-Ichi Amari,非负矩阵和张量因子分解,IEEE信号处理杂志25(2008),142-145。
[8] Andrzej Cichocki,R.Zdunk,A.-H.Phan和Shun-Ichi Amari,《非负矩阵和张量因子分解:探索性多路数据分析和盲源分离的应用》,威利,纽约,美国,2009年。
[9] Andrzej Cichocki和Shun-Ichi Amari,《α-β族、γ-双变异:灵活且稳健的相似性度量》,《熵》12(2010),1532-1568·Zbl 1229.94030号
[10] Anne Sophie Montcuquet、Lionel Herve、Jean-Marc Dinten和Jerome I。
[11] Mars,《非负矩阵分解应用》,组织生物自动荧光消除,2011年。
[12] Sanjeev Arora、Rong Ge、Yoni Halpern、David Mimno、Ankur Moitra、David Sontag、Yichen Wu和Michael Zhu,具有可证明保证的主题建模实用算法,第三十届机器学习国际会议论文集,2013,arXiv:1212.4777。
[13] Cédric Févotte,Nancy Bertin和Jean-Louis Durrieu,板仓齐藤分歧的非负矩阵分解:应用于音乐分析,神经计算11(2009),793-830·Zbl 1156.94306号
[14] Cédric Févotte和Jérôme Idier,具有β-散度的非负矩阵分解算法,Neural。计算。23(9) (2011), 2421-2456. ·Zbl 1231.65072号
[15] 丁振华,李振华,彭文华,关于非负矩阵分解与概率潜在语义索引的等价性,计算。统计数据分析。52 (2008), 3913-3927. ·Zbl 1452.62053号
[16] Cyril Gobinet、Eric Perrin和Régis Huez,非负矩阵分解在荧光光谱中的应用,欧洲信号处理会议(EUSIPCO),奥地利维也纳,2004年。
[17] Daniel D.Lee和Sebastian Seung,通过非负矩阵分解学习对象的各个部分,《自然》401(1999),788-791·Zbl 1369.68285号
[18] Daniel D.Lee和H.Sebastian Seung,非负矩阵分解算法,《神经信息处理系统进展》,第13期,2000年会议论文集,NIPS 2000神经信息处理体系基金会,2001年。
[19] R.DiPaola、J.P.Bazin、F.Aubry、A.Aurengo、F.Cavailloles、J.Y.Herry和E.Kahn,核医学中动态序列的处理,IEEE Trans。编号。科学。NS 29(1982),1310-1321。
[20] 弗兰克·尼尔森(Frank Nielsen)和理查德·诺克(Richard Nock),关于代表性Bregman分歧的双重Voronoi图,2009年Vonoroi图国际研讨会,第71-78页。
[21] Hyunsoo Kim和Haesun Park,通过交替非负约束最小二乘法进行稀疏非负矩阵分解用于微阵列数据分析,生物信息学23(2007),1495-1502。
[22] Jean-Philippe Brunet、Pablo Tamayo、Todd R.Golub和Jill P.Mesirov,《利用矩阵分解发现转基因和分子模式》,Proc。国家。阿卡德。科学。《美国法典》第101卷第12期(2004年),第4164-4169页。
[23] Liangda Li,Guy Lebanon和Haesun Park,使用泰勒展开和坐标下降的快速Bregman散度NMF,KDD’12第18届ACM SIGKDD国际知识发现和数据挖掘会议论文集,中国北京,2012年8月12-16日,第307-315页。
[24] L.M.Bregman,寻找凸集公共点的松弛方法及其在凸规划问题求解中的应用,苏联计算数学和数学物理7(1967),210-217。
[25] Michael W.Berry和Murray Browne,使用非负矩阵分解的电子邮件监控,计算和数学组织理论11(2005),249-264·Zbl 1086.68502号
[26] Michael W.Berry等人,近似非负矩阵分解的算法和应用,计算。统计数据分析。,2006年,内政部:10.1016/j.csda.2006.11.006·Zbl 1452.90298号 ·doi:10.1016/j.csda.2006.11.006
[27] Finn Arup Nielsen、Daniela Balslev和Lars Kai Hansen,《挖掘后扣带回:记忆和疼痛成分之间的分离》,《神经影像》27(2005),520-532。
[28] Patrick O.Hoyer,稀疏约束下的非负矩阵分解,机器学习研究杂志5(2004),1457-1469·Zbl 1222.68218号
[29] Romain Hennequin、Bertrand Davide和Roland Badeau,Beta散度作为Bregman散度的一个子类,IEEE信号处理快报18(2011),83-86。
[30] 劳尔·孔帕斯,非负矩阵因式分解的广义散度测度,《神经计算》19(2007),780-791·Zbl 1127.68081号
[31] Shinto Eguchi和Yutaka Kano,稳健最大似然估计,技术报告,统计数学研究所,东京,2001年。
[32] E.Schwalbe,髓母细胞瘤的DNA甲基化分析允许使用福尔马林固定活检进行稳健的亚分类和改进的结果预测,《神经病理学学报》125(2013),359-371。
[33] M.N.Schmidt、J.Larsen和F.T.Xiao,使用非负备用编码降低风噪声,信号处理的机器学习,IEEE研讨会,2007年,第431-436页。
[34] V.Paul Pauca、Farial Shahnaz、Michael W.Berry和Robert J.Plemmons,使用非负矩阵分解进行文本挖掘,SIAM国际数据挖掘会议,2004年,第452-456页。
[35] 杨晨,小王,丛石,Eng Keong Lua,傅晓明,邓北兴和李兴,凤凰城:使用矩阵分解的加权网络坐标系,IEEE网络与服务管理汇刊8(2011),2273-2284。
[36] Yun Mao、Lawrence Saul和Jonathan M.Smith,《IDES:大型网络的互联网距离估算服务》,IEEE Journal on Selected Areas in Communications 24(2006),2273-2284。
[37] 李泽超,汤金辉和何小菲,图像表示的鲁棒结构化非负矩阵分解,IEEE神经网络和学习系统汇刊29(2018),1947-1960。
[38] J.B.Hiriart Urruti和C.Lemarechal,凸分析和最小化算法:第1部分:基础,Springer,纽约,NT,美国,1996年。
[39] A.Cichocki和A.-H.Phan,《大规模非负矩阵和张量因式分解的快速局部算法》,IEICE电子通信与计算机科学基础汇刊3(2009),708-721。
[40] H.H.Bauschke和J.M.Borwein,Legendre函数和随机Bregman投影方法,J.凸分析。4 (1997), 27-67. ·兹伯利0894.49019
[41] Hyenkyun Woo,beta散度域的特征及其与Bregman变分模型的关系,熵19(9)(2017),482。利用Bregman散度推广Beta散度…45
[42] R.T.Rockafellar,《凸分析》,普林斯顿大学出版社,美国新泽西州普林斯顿,1970年·Zbl 0193.18401号
[43] P.Smaragdis和J.C.Brown,《复调音乐转录的非负矩阵因式分解》,IEEE,2003年,第177-180页。
[44] M.W.Berry、M.Brown、A.N.Langville、V.Paul Pancar和J.Robert,近似非负矩阵分解的算法和应用,计算。统计数据分析。52 (2007), 155-173. ·Zbl 1452.90298号
[45] D.Greene、G.Cagney、N.Krogan和P.Cunningham,聚类蛋白质相互作用的集合非负矩阵分解方法24(2008),1722-1728。
[46] C.Diuk、A.Schapiro、N.Cordova、J.Ribas-Fernandes、Yael Niv和M.Botvinick,《分而治之:人类的分层强化学习和任务分解》,《行为分层组织的计算和机器人模型》,G.Baldassarre和M.Mirolli编辑,Springer-Verlag出版社,美国纽约州纽约市,2013年,第271-291页。
[47] C.Févotte和J.Idier,带β发散的非负矩阵分解算法,神经计算23(9)(2011),2421-2456·Zbl 1231.65072号
[48] A.Cichocki,S.Cruces和S.Amari,广义α-β散度及其在稳健非负矩阵因式分解中的应用,熵13(2011),134-170。
[49] Inderjit S.Dhillon和Suvrit Sra,带Bregman发散的广义非负矩阵近似,神经信息处理系统(NIPS),2005年12月,第283-290页。
[50] A.Cichocki和S.-I.Amari,《α-、β-和γ-差异家族:灵活而稳健的相似性度量》,《熵》12(2010),1532-1568·Zbl 1229.94030号
[51] A.Basu、I.R.Harris、N.Hjort和M.Jones,《通过最小化密度幂散度实现稳健高效估计》,《生物统计学》85(1998),865-873。
[52] I.J.Schoenberg,度量空间与正定函数,Trans。阿默尔。数学。《社会学》第44卷(1938年),第522-536页。
[53] C.Févotte和A.T.Cemgil,非负矩阵分解作为复合模型中的概率推断,欧洲信号处理会议,2009年,第1913-1917页。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。