×

逆G-Wishart分布和变分消息传递。 (英语) Zbl 1521.62092号

摘要:因子图上的消息传递是任意大型图形模型的近似推理算法编码的强大范例。因子图片段的概念允许对代数和计算机代码进行划分。我们证明了逆G-Wishart分布族能够优雅简洁地表达基本的变分消息传递因子图片段。这些片段出现在对协方差矩阵或方差参数进行近似推断的模型中,在当代统计学和机器学习中普遍存在。

MSC公司:

62H22个 概率图形模型
2015年1月62日 贝叶斯推断
62小时05 多元概率分布的表征与结构理论;连接线
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Armagan,A.、Dunson,D.B.和Clyde,M.(2011年)。高斯广义β混合物。《神经信息处理系统的进展》24,J.Shawe‐Taylor(编辑)、R.S.Zamel(编辑)和P.Bartlett(编辑),F.Pereira(编辑)以及K.Q.Weinberger(编辑)编辑,第523-531页。加利福尼亚州La Jolla:神经信息处理系统(NIPS)基金会。
[2] Assaf,A.G.、Li,G.、Song,H.和Tsionas,M.G.(2019年)。使用贝叶斯全球向量自回归(BGVAR)模型对区域旅游需求进行建模和预测。《旅游研究杂志》58,383-397。
[3] Atay‐Kayis,A.&Massam,H.(2005)。计算不可分解高斯图形模型中边际似然的蒙特卡罗方法。生物特征92、317-335·Zbl 1094.62028号
[4] Attias,H.(1999)。用变分贝叶斯推断潜在变量模型的参数和结构。《第十五届人工智能不确定性会议记录》,K.B.Laskey(编辑)和H.Prade(编辑),第21-30页。旧金山:摩根考夫曼。
[5] Bishop,C.M.(2006年)。模式识别和机器学习。纽约:斯普林格·Zbl 1107.68072号
[6] Chen,W.Y.和Wand,M.P.(2020年)。期望传播的因子图碎片化。《韩国统计学会杂志》49,722-756·Zbl 1485.62072号
[7] Conti,G.、Frühwirth‐Schnatter,S.、Heckman,J.J.和Piatek,R.(2014)。贝叶斯探索性因子分析。《计量经济学杂志》183,31-57·Zbl 1312.62077号
[8] Dawid,A.P.和Lauritzen,S.L.(1993年)。可分解图形模型统计分析中的超马尔可夫定律。《统计学年鉴》212712-1317·Zbl 0815.62038号
[9] Gelman,A.(2006年)。层次模型中方差参数的先验分布(对Browne和Draper的文章的评论)。贝叶斯分析1,515-534·Zbl 1331.62139号
[10] Gelman,A.、Carlin,J.B.、Stern,H.S.、Dunson,D.B.、Vehtari,A.和Rubin,D.B.(2014)。贝叶斯数据分析,第3版。佛罗里达州博卡拉顿:CRC出版社·Zbl 1279.62004号
[11] Gentle,J.E.(2007)。矩阵代数。纽约:斯普林格·Zbl 1133.15001号
[12] Harezlak,J.、Ruppert,D.和Wand,M.P.(2018年)。与R.New York:Springer的半参数回归·Zbl 1430.62002年
[13] Huang,A.和Wand,M.P.(2013年)。协方差矩阵的简单边缘非信息先验分布。贝叶斯分析8439-452·Zbl 1329.62135号
[14] Lange,K.L.、Little,R.J.和Taylor,J.M.(1989)。使用t分布的稳健统计建模。《美国统计协会杂志》84,881-896。
[15] Letac,G.和Massam,H.(2007年)。可分解图的Wishart分布。《统计年鉴》351278-1323·Zbl 1194.62078号
[16] Maestrini,L.&Wand,M.P.(2018年)。斜t回归的变量消息传递。统计7,e196,1-11。
[17] Magnus,J.R.和Neudecker,H.(2019年)。矩阵微分学及其在统计学和计量经济学中的应用,第3版。英国奇切斯特:John Wiley&Sons·Zbl 1411.15003号
[18] McCulloch,C.E.、Searle,S.R.和Neuhaus,J.M.(2008)。广义、线性和混合模型,第2版。纽约:约翰·威利父子公司·Zbl 1165.62050号
[19] McLean,M.和Wand,M.(2019)。详细响应回归模型的变量消息传递。贝叶斯分析14,371-398·兹比尔1416.62221
[20] Minka,T.P.(2001)。近似贝叶斯推理的期望传播。《第十七届人工智能不确定性会议记录》,第362-369页。马萨诸塞州伯灵顿:摩根·考夫曼。
[21] Minka,T.P.(2005)。分歧措施和信息传递。微软研究技术报告系列MSR‐TR‐2005‐173,1-17。
[22] Muirhead,R.J.(1982年)。多元统计理论方面。纽约:John Wiley&Sons·Zbl 0556.62028号
[23] Mulder,J.&Pericchi,L.R.(2018年)。估计和测试协方差矩阵之前的矩阵-F。贝叶斯分析13,1193-1214·Zbl 1407.62080号
[24] Nolan,T.H.,Menictas,M.&Wand,M.P.(2020年)。具有高级随机效应的变分推理的流线型计算。机器学习研究杂志21,1-62·Zbl 1527.62024号
[25] Nolan,T.H.&Wand,M.P.(2017年)。精确的逻辑变量信息传递:代数和数值细节。统计6,102-112。
[26] Polson,N.G.和Scott,J.G.(2012年)。对于全局尺度参数,在半柯西之前。贝叶斯分析7887-902·Zbl 1330.62148号
[27] R核心团队(2021年)。R: 统计计算语言和环境。奥地利维也纳R统计计算基金会。网址:https://www.R-project.org/。
[28] Roverato,A.(2000年)。超逆Wishart矩阵的Cholesky分解。生物统计学87,99-112·Zbl 0974.62047号
[29] Stan开发团队(2020年)。RStan:与Stan的R接口。可从URL:http://mc-stan.org/。R软件包版本2.21.2。
[30] Uhler,C.、Lenkoski,A.和Richards,D.(2018年)。图形模型Wishart分布归一化常数的精确公式。《统计学年鉴》46,90-118·Zbl 1392.62146号
[31] Wand,M.P.(2017)。通过消息传递实现任意大半参数回归模型的快速近似推理。《美国统计协会杂志》112,137-168。
[32] Winn,J.和Bishop,C.M.(2005年)。可变消息传递。机器学习研究杂志661-694·Zbl 1222.68332号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。