皮埃尔·阿尔基尔;本杰明·盖杰 拟贝叶斯非负矩阵分解的一个预言不等式。 (英语) Zbl 1381.62222号 数学。方法统计。 26,第1号,55-67(2017). 摘要:本文的目的是对非负矩阵分解的拟贝叶斯聚集方法提供一些理论上的理解。我们导出了聚合估计量的预言不等式。这个结果适用于一类非常普遍的先验分布,并显示了先验如何影响收敛速度。 引用于6文件 MSC公司: 62小时99 多变量分析 62英尺35英寸 鲁棒性和自适应程序(参数推断) 68T05型 人工智能中的学习和自适应系统 65二氧化碳 蒙特卡罗方法 关键词:非负矩阵分解;oracle不等式;PAC-贝叶斯边界 软件:PRMLT公司;NeNMF公司 PDF格式BibTeX公司 XML格式引用 \textit{P.Alquier}和\textit{B.Guedj},数学。方法统计26,No.1,55--67(2017;Zbl 1381.62222) 全文: 内政部 arXiv公司 参考文献: [1] G.I.Allen、L.Grosenick和J.Taylor,“广义最小二乘矩阵分解”,J.Amer。统计师。协会109(505),145-159(2014)·Zbl 1367.62184号 ·doi:10.1080/01621459.2013.852978 [2] Alquier,P.,《低秩矩阵估计的贝叶斯方法:简短调查和理论研究》,309-323(2013)·Zbl 1411.62136号 ·doi:10.1007/978-3-642-40935-6_22 [3] P.Alquier、V.Cottet、N.Chopin和J.Rousseau,《贝叶斯矩阵完成:预先规范》,预印arXiv:1406.1440(2014)。 [4] P.Alquier、J.Ridgway和N.Chopin,《关于Gibbs后验变量逼近的性质》,J.Machine Learning Res.,17(239),1-41(2016)·Zbl 1437.62129号 [5] C.M.Bishop,《模式识别与机器学习》(Springer,2006),第10章·Zbl 1107.68072号 [6] P.G.Bissiri、C.C.Holmes和S.G.Walker,更新信仰分布的一般框架,J.Roy。统计师。Soc.序列号。B、 78(5)(2016)·Zbl 1414.62039号 [7] 比托夫,V。;Recht,B。;关于C。;Tropp,J.,用线性规划分解非负矩阵,1214-1222(2012) [8] S.Boyd、N.Parikh、E.Chu、B.Peleato和J.Eckstein,“通过乘数交替方向方法进行分布式优化和统计学习”,机器学习的基础和趋势3(1),1-122(2011)·Zbl 1229.90122号 ·doi:10.1561/220000016 [9] O.Catoni,《自适应分类的PAC-Baysian方法》,《概率与模式预印实验室》,PMA-840(2003)。 [10] O.Catoni,《统计学习理论和随机优化》,圣弗洛尔概率论暑期学校2001年版,Jean Picard编辑(Springer,2004)·兹比尔1076.93002 ·doi:10.1007/b99352 [11] O.Catoni,PAC-Baysian监督分类:统计学习的热力学,数学研究所。统计师。演讲笔记-专题系列(IMS,俄亥俄州比奇伍德,2007),第56卷·Zbl 1277.62015年 [12] Cemgil,A.T.,非负矩阵分解模型的贝叶斯推断(2009) [13] J.Corander和M.Villani,“降低秩回归中维度的贝叶斯评估”,《Neerlandica统计》58255-270(2004)·Zbl 1059.62022号 ·文件编号:10.1111/j.1467-9574.2004.00108.x [14] A.Dalalyan和A.B.Tsybakov,“指数加权聚合,Sharp PAC贝叶斯界和稀疏性”,机器学习72(1-2),39-61(2008)·Zbl 1470.62054号 ·doi:10.1007/s10994-008-5051-0 [15] Dalalyan,A.S。;Tsybakov,A.B。;Bshouty,N.(编辑);Gentile,C.(编辑),《指数加权聚合与尖锐Oracle不等式》,97-111(2007)·Zbl 1203.62063号 [16] 多诺霍,D。;Stodden,V.,非负矩阵因式分解何时给出正确的分解?(2003) [17] C.Févotte、N.Bertin和J.-L.Durrieu,“带Itakura-Saito发散的非负矩阵分解:在音乐分析中的应用”,《神经计算》21(3),793-830(2009)·Zbl 1156.94306号 ·doi:10.1162/neco.2008.04-08-771 [18] I.Giulini,希尔伯特空间主成分分析的PAC-Baysian界,预印本arXiv:1511.06263(2015)。 [19] Y.Golubev和D.Ostrovski,“指数加权法的浓度不等式”,数学。方法统计。23 (1), 20-37 (2014). ·2012年10月13日 ·doi:10.3103/S1066530714010025 [20] N.Guan,D.Tao,Z.Luo,B.Yuan,“NeNMF:非负矩阵分解的最优梯度方法”,IEEE Trans。《信号处理》60(6),2882-2898(2012)·兹比尔1391.65115 ·doi:10.1109/TSP.2012.2190406 [21] B.Guedj和P.Alquier,“稀疏可加模型中的PAC-Baysian估计和预测”,《电子统计杂志》,第7期,第264-291页(2013年)·Zbl 1337.62075号 ·doi:10.1214/13-EJS771 [22] B.Guedj和S.Robbiano,PAC-Baysian高维二分排名,预印arXiv:1511.02729(2015)·Zbl 1432.62183号 [23] 吉拉梅特,D。;Vitria,J.,用非负矩阵分解法对面部进行分类,24-31(2002) [24] M.I.Jordan、Z.Gahramani、T.S.Jaakkola和L.K.Saul,“图形模型的变分方法简介”,机器学习37183-233(1999)·Zbl 0945.68164号 ·doi:10.1023/A:1007665907178 [25] D.Kim、S.Sra和I.S.Dhillon,“最小二乘非负矩阵逼近问题的基于投影的快速方法”,统计学家。分析与数据挖掘1(1),38-51(2008)·Zbl 07260181号 ·doi:10.1002/sam.104 [26] Y.Koren、R.Bell和C.Volinsky,“推荐系统的矩阵分解技术”,《计算机》42(8),30-37(2009)。 ·doi:10.1109/MC.2009.263 [27] 劳伦斯,北卡罗来纳州。;Urtasun,R.,高斯过程的非线性矩阵分解,601-608(2009) [28] D.D.Lee和H.S.Seung,“通过非负矩阵分解学习对象的各个部分”,《自然》401(6755),788-791(1999)·Zbl 1369.68285号 ·doi:10.1038/44565 [29] Lee,D.D。;Seung,H.S.,非负矩阵分解算法,556-562(2001) [30] G.Leung和A.R.Barron,“信息理论与混合最小二乘回归”,IEEE Trans。通知。理论52(8),3396-3410(2006)·Zbl 1309.94051号 ·doi:10.1109/TIT.2006.878172 [31] L.Li、B.Guedj和S.Loustau,PAC-Baysian在线聚类,预印本arXiv:1602.00522(2016)。 [32] Y.J.Lim和Y.W.Teh,“电影评级预测的变分贝叶斯方法”。KDD Cup and Workshop(2007),第7卷,第5-21页。 [33] C.-J.Lin,“非负矩阵分解的投影梯度法”,神经计算19(10),2756-2779(2007)·Zbl 1173.90583号 ·doi:10.1162/neco.2007.19.10.2756 [34] D.J.C.MacKay,《信息理论、推理和学习算法》(剑桥大学出版社,2002年)。 [35] T.T.Mai和P.Alquier,“矩阵完成的贝叶斯方法:一般抽样分布下的最优比率”,《电子统计杂志》。9, 823-841 (2015). ·Zbl 1317.62050号 ·doi:10.1214/15-EJS1020 [36] McAllester,D.,一些PAC-Baysian定理,230-234(1998) [37] S.Moussaoui、D.Brie、A.Mohammad-Djafari和C.Carteret,“使用贝叶斯方法和MCMC采样分离非负混合源”,IEEE Trans。《信号处理》54(11),4133-4145(2006)·Zbl 1374.94725号 ·doi:10.1109/TSP.2006.880310 [38] A.Ozerov和C.Févotte,“用于音频源分离的卷积混合中的多通道非负矩阵分解”,IEEE Trans。《音频、语音和语言处理》18(3),550-563(2010)。 ·doi:10.1109/TASL.2009.2031510 [39] 佩斯利,J。;布莱,D。;Jordan,M.I.,贝叶斯非负矩阵因式分解与随机变量推断(2015) [40] Salakhutdinov,R。;Mnih,A.,使用马尔可夫链蒙特卡罗的贝叶斯概率矩阵分解,880-887(2008) [41] 施密特,M.N。;Winther,O。;Hansen,L.K.,贝叶斯非负矩阵分解,540-547(2009)·doi:10.1007/978-3642-00599-2-68 [42] F.Shahnaz、M.W.Berry、V.P.Pauca和R.J.Plemmons,“使用非负矩阵分解进行文档聚类”,Inform。处理与管理42(2),373-386(2006)·Zbl 1087.68104号 ·doi:10.1016/j.ipm.2004.11.005 [43] 肖-泰勒,J。;Williamson,R.,Bayes估计的PAC分析,2-9(1997) [44] 铃木,T.,贝叶斯张量估计的收敛速度及其极小极大最优性,1273-1282(2015) [45] Tan,V.Y。;Févotte,C.,非负矩阵分解中的自动相关性确定(2009) [46] 徐伟(Xu,W.)。;刘,X。;龚毅,基于非负矩阵分解的文档聚类,267-273(2003) [47] Y.Xu和W.Yin,“正则化多凸优化的块坐标下降法及其在非负张量分解和完成中的应用”,SIAMJ。成像科学。6 (3), 1758-1789 (2013). ·Zbl 1280.49042号 ·数字对象标识代码:10.1137/120887795 [48] Xu Y.,W.Yin,Z.Wen,Y.Zhang,“非负因子矩阵补全的交替方向算法”,中国数学前沿7(2),365-384(2012)·Zbl 1323.65044号 ·doi:10.1007/s11464-012-0194-5 [49] 钟,M。;Girolma,M.,非负矩阵分解的可逆跳跃MCMC,663-670(2009) [50] 周,M。;王,C。;陈,M。;佩斯利,J。;邓森,D。;Carin,L.,非参数贝叶斯矩阵完成(2010) 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。