×
玛丽安·梅尼克塔斯;马特·P·旺德。

异方差半参数回归的变分推断。 （英语） Zbl 1331.62236号

澳大利亚。N.Z.J.统计。 57，第1期，119-138（2015）.
摘要：我们开发了贝叶斯异方差半参数回归的快速平均场变分方法，其中均值和方差都是平滑的，但在其他方面是任意的，预测函数。我们得到的算法是纯代数的，没有数值积分和蒙特卡罗采样。平均场变分贝叶斯的局部性意味着该方法也适用于具有方差函数分量的较大模型。仿真研究表明，与马尔可夫链蒙特卡罗方法相比，该方法具有良好的精确度和可观的时间节省。我们还提供了一些应用程序的插图。

引用于三文件

MSC公司：

62G08号 非参数回归和分位数回归
62英尺15英寸 贝叶斯推断

关键词：

近似贝叶斯推断;平均场变分贝叶斯;非共轭变分信息传递;方差函数估计

软件：

半标准杆;谷胱甘肽转移酶;Gstat公司;GAMLSS公司;布鲁斯;斯坦;推断。净额;R（右）;漏洞
PDF格式BibTeX公司 XML格式引用
\textit{M.Menictas}和\textit{M.P.Wand}，澳大利亚。N.Z.J.Stat.57，No.1，119--138（2015；Zbl 1331.62236）
全文： DOI程序

参考文献：

[1] Barber，D.&Bishop，C.M.（1997年）。多层网络的集成学习。《神经信息处理系统的进展》，第10卷，编辑M.I.Jordan（编辑）、K.J.Kearns（编辑）和S.A.Solla（编辑），第395-401页。马萨诸塞州剑桥：麻省理工学院出版社。
[2] Challis，E.&Barber，D.（2013年）。高斯Kullback-Leibler近似推理。J.马赫。学习。第14号决议，2239-2286·Zbl 1318.62085号
[3] Crainiceanu，C.M.、Ruppert，D.、Carroll，R.J.、Joshi，A.和Goodner，B.（2007年）。具有异方差误差的空间自适应贝叶斯惩罚样条。J.公司。图表。统计16，265-288。
[4] 克雷西岛。A.C.（1993）。空间数据统计，修订版。纽约：Wiley。
[5] Faes，C.、Ormerod，J.T.和Wand，M.P.（2011年）。缺失数据的参数和非参数回归的变分贝叶斯推断。J.Amer。统计人员。协会106959-971·Zbl 1229.62028号
[6] Hinton，G.E.&van Camp，D.（1993年）。通过最小化权值的描述长度来保持神经网络的简单性。《第六届计算机协会年会计算机学习理论会议论文集》，第5-13页，纽约：计算机协会。
[7] Knowles，D.A和Minka，T.P.（2011年）。多项式和二元回归的非共轭变分消息传递。《神经信息处理系统进展》，第24卷，编辑J.Shawe‐Taylor（编辑），R.S.Zamel（编辑）、P.Bartlett（编辑）和F.Pereira（编辑）以及K.Q.Weinberger（编辑）第1701-1709页。马萨诸塞州剑桥：麻省理工学院出版社。
[8] Lázaro‐Gredilla，M.&Titsias，M.K.（2011）。变分异方差高斯过程回归。第28届机器学习国际会议论文集，美国华盛顿贝尔维尤。
[9] Luts，J.、Broderick，T.和Wand，M.P.（2014年）。实时半参数回归。J.公司。图表。统计数字23，589-615。
[10] Luts，J.、Wang，S.S.J.、Ormerod，J.T.和Wand，M.P.（2015）。通过推断进行半参数回归分析。净利润。未发表的手稿。
[11] Magnus，J.R.和Neudecker，H.（1999）。矩阵微分学在统计学和计量经济学中的应用，修订版。奇切斯特英国：Wiley·Zbl 0912.15003号
[12] Marley，J.K.和Wand，M.P.（2010年）。通过BRugs进行非标准半参数回归。J.Stat.Softw.37，1-30。
[13] Menictas，M.（2015）。异方差和纵向回归模型的变分推理（博士论文）。悉尼科技大学。
[14] Menictas，M.&Wand，M.P.（2013年）。边际纵向半参数回归的变分推断。统计2，61-71。
[15] Minka，T.和Winn，J.（2008）。盖茨：混合模型的图形符号。微软研究技术报告系列，MSR‐TR‐2008‐185，1-16。
[16] Minka，T.、Winn，J.、Guiver，J.和Knowles，D.（2014）。推断。净2.6。可从以下URL获得：http://research.microsoft.com/infernet[上次访问日期：2015年2月26日。]
[17] Nott，D.J.，Tran，M.‐N.和Leng，C.（2012）。异方差线性模型的变分近似和匹配追踪算法。统计计算22，497-512·兹比尔1322.62031
[18] Opper，M.和Archambeau，C.（2009年）。重新讨论了变分高斯近似。神经计算21，786-792·Zbl 1178.68450号
[19] Ormerod，J.T.&Wand，M.P.（2010年）。解释变分近似。阿米尔。统计64，140-153·Zbl 1200.65007号
[20] Pebesma，E.J.（2004）。R中的多元地质统计学：gstat包。计算。地质学.30，683-691。
[21] Pebesma，E.J.和Duin，R.N.M.（2005）。不同空间尺度上北海沉积物质量时间变化的空间格局。《环境应用地质统计学：第五届欧洲环境应用地质统计会议论文集》，P.Renard（编辑）、H.Demougeout‐Renaard（编辑）和R.Froidevaux（编辑），第367-378页。柏林，海德堡：Springer‐Verlag。
[22] R核心团队（2015）。R： 统计计算语言和环境。R统计计算基金会，奥地利维也纳，ISBN:3‐900051‐07-0。可从以下URL获得：http://www.R-project.org网站[上次访问日期：2015年2月26日。]
[23] Raiko，T.、Valpola，H.、Harva，M.和Karhunen，J.（2007）。潜在变量模型的变分贝叶斯学习的构建块。J.马赫。学习。第8号决议，155-201·兹比尔1222.62040
[24] Rigby，R.A.和Stasinopoulos，D.M.（2005）。位置、规模和形状的广义加性模型。J.R.统计。Soc.序列号。C.申请。统计54507-554·Zbl 1490.62201号
[25] Ruppert，D.、Wand，M.P.和Carroll，R.J.（2003）。半参数回归。纽约：剑桥大学出版社·Zbl 1038.62042号
[26] Ruppert，D.、Wand，M.P.和Carroll，R.J.（2009年）。2003-2007年期间的半参数回归。电子。J.Stat.3，1193-1256·Zbl 1326.62094号
[27] Spiegelhalter，D.J.、Thomas，A.、Best，N.G.、Gilks，W.R.和Lunn，D.（2003）。缺陷：使用吉布斯抽样的贝叶斯推断。英国剑桥医学研究委员会生物统计学部门。网址：http://www.mrc-bsu.cam.ac.uk/bugs[上次访问日期：2015年2月26日。]
[28] Stan开发团队。(2013). Stan：一个用于概率和采样的C++库。1.3版。可从以下URL获得：http://mc-stan.org/[上次访问日期：2015年2月26日。]
[29] Wainwright，M.J.和Jordan，M.I.（2008年）。图形模型、指数族和变分推理。已找到。趋势马赫数。学习1，1-305·Zbl 1193.62107号
[30] Wand，M.P.（2009年）。半参数回归和图形模型。澳大利亚。N.Z.J.统计51，9-41·Zbl 1334.62012年
[31] Wand，M.P.（2014）。非共轭变分信息传递中的完全简化多元正态更新。J.马赫。学习。第15号决议，1351-1369·Zbl 1319.62066号
[32] Wand，M.P.和Jones，M.C.（1995年）。内核平滑。伦敦：查普曼和霍尔·兹比尔0854.62043
[33] Wand，M.P.和Ormerod，J.T.（2008年）。关于O'Sullivan惩罚样条的半参数回归。澳大利亚。N.Z.J.Stat.50，179-198年·Zbl 1146.62030号
[34] Wand，M.P.、Ormerod，J.T.、Padoan，S.A.和Frühwirth，R.（2011）。精细分布的平均场变分贝叶斯。贝叶斯分析，6847-900·Zbl 1330.62158号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。