×
Lee，Se Yoon先生

吉布斯采样器和坐标上升变分推断：集合理论综述。 （英语） Zbl 07533621号

Commun公司。统计、理论方法 51，第6期，1549-1568（2022）.
摘要：贝叶斯统计的基本问题之一是后验分布的近似。吉布斯采样器和坐标上升变分推断是著名的近似技术，依赖于随机和确定性近似。本文定义了贝叶斯推理中常用的基本密度集。我们将关注从既定的理论角度对这两个方案的澄清。这一新方法为分析这两种具有教学洞察力的方案提供了另一种机制。

引用于2文件

MSC公司：

62至XX 统计

关键词：

吉布斯采样器;坐标上升变分推理;对偶公式

软件：

PRMLT公司;贝叶斯DA
PDF格式BibTeX公司 XML格式引用
\textit{S.Y.Lee}，Commun（科蒙）。Stat.，理论方法51，No.6，1549--1568（2022；Zbl 07533621）
全文： 内政部 arXiv公司

参考文献：

[1] Andrieu，C。；De Freitas，N。；Doucet，A。；Jordan，M.I.，机器学习mcmc简介，机器学习，50，1-2，5-43（2003）·Zbl 1033.68081号 ·doi:10.1023/A：1020281327116
[2] Baxter，R.J.，《统计力学中的精确求解模型》（2016），爱思唯尔出版社
[3] Beal，M.J.，近似贝叶斯推断的变分算法（2003）
[4] Beichl，I。；Sullivan，F.，《大都会算法》，《科学与工程计算》，第2、1、65-9页（2000年）·doi:10.1109/5992.814660
[5] 比克尔，P。；Choi，D。；Chang，X。；Zhang，H.，随机块模型的最大似然渐近正态性及其变分近似，统计学年鉴，41，4，1922-43（2013）·Zbl 1292.62042号
[6] Billingsley，P.，《概率与测度》（2008），John Wiley&Sons
[7] Bishop，C.M.，模式识别和机器学习（2006）·Zbl 1107.68072号
[8] 布莱，D.M。；Jordan，M.I.，Dirichlet过程混合物的变分推断，贝叶斯分析，1，1，121-43（2006）·Zbl 1331.62259号 ·doi:10.1214/06-BA104
[9] 布莱，D.M。；Kucukelbir，A。；McAuliffe，J.D.，《变量推断：统计学家评论》，《美国统计协会杂志》，第112、518、859-77页（2017年）·doi:10.1080/01621459.2017.1285773
[10] 卡塞拉，G。；George，E.I.，解释吉布斯采样器，美国统计学家，46，3，167-74（1992）·电话：10.2307/2685208
[11] 塞利斯，A。；Daudin，J.-J。；Pierre，L.，随机块模型中最大似然和变分估计的一致性，《电子统计杂志》，61847-99（2012）·Zbl 1295.62028号 ·doi:10.1214/12-EJS729
[12] 钱德勒，D.，《现代统计导论》。《力学》（1987），英国牛津：牛津大学出版社，英国牛津
[13] Chib，S。；Greenberg，E.，《理解大都市-黑斯廷斯算法》，《美国统计学家》，49，4，327-35（1995）·doi:10.2307/2684568
[14] Cover，T.M.，《信息理论的要素》（1999），John Wiley&Sons
[15] 考尔斯，M.K。；Carlin，B.P.，《马尔可夫链蒙特卡罗收敛诊断：比较综述》，《美国统计协会杂志》，91，434，883-904（1996）·Zbl 0869.62066号 ·doi:10.1080/01621459.1996.10476956
[16] Csiszár，我。；Shields，P.C.，《信息理论与统计：教程》，《通信与信息理论的基础与趋势》，第1、4、417-528页（2004年）·Zbl 1156.62300号 ·doi:10.1561/0100000004
[17] Dawid，A.P.，《统计理论中的条件独立性》，《皇家统计学会杂志：B辑（方法学）》，41，1，1-15（1979）·Zbl 0408.62004号
[18] Dwivedi，R。；陈，Y。；Wainwright，M.J。；Yu，B.，对数压缩采样：Metropolis-hastings算法很快！，793-97 (2018)
[19] Gal，2016年。深度学习中的不确定性。剑桥大学1、3。
[20] Gelfand，A.E.，Gibbs sampling，《美国统计协会杂志》，95，452，1300-4（2000）·Zbl 1072.65503号 ·doi:10.1080/01621459.2000.10474335
[21] 盖尔芬德，A.E。；Smith，A.F.，《基于抽样的边际密度计算方法》，《美国统计协会杂志》，第85、410、398-409页（1990年）·Zbl 0702.62020号 ·网址：10.1080/01621459.1990.10476213
[22] Gelman，A。；Carlin，J.B。；斯特恩，H.S。；邓森，D.B。；Vehtari，A。；Rubin，D.B.，贝叶斯数据分析（2013），CRC出版社
[23] Geman，S。；Geman，D.，随机松弛、吉布斯分布和图像的贝叶斯恢复，IEEE模式分析和机器智能汇刊，6721-41（1984）·Zbl 0573.62030号 ·doi:10.1109/tpami.1984.4767596
[24] M.I.乔丹。；加赫拉马尼，Z。；Jaakkola，T.S。；Saul，L.K.，《图形模型变分方法简介》，机器学习，37，2，183-233（1999）·Zbl 0945.68164号 ·doi:10.1023/A:1007665907178
[25] Keener，R.W.，《理论统计：核心课程主题》（2010），施普林格科学与商业媒体·Zbl 1269.62003号
[26] Kullback，S.，《信息理论与统计》（1997），Courier Corporation·兹比尔0897.62003
[27] Massart，P.，《浓度不平等和模型选择》，6（2007），Springer·Zbl 1170.60006号
[28] Minka，T.P.2013年。近似贝叶斯推理的期望传播。arXiv预印本arXiv:1301.2294。
[29] Murray，I.、Adams，R.P.和MacKay，D.J.，2010年。椭圆切片采样。第十三届人工智能和统计国际会议（AISTATS）会议记录，意大利撒丁岛恰拉古纳度假村。JMLR第9卷，541-48。
[30] Neal，R.M.，切片取样，统计年鉴（2003）·Zbl 1051.65007号 ·doi:10.1214/aos/1056562461
[31] Neal，R.M.，《马尔可夫链蒙特卡罗手册》，2，使用哈密顿动力学的MCMC，2（2011）
[32] 奥默罗德，J.T。；Wand，M.P.，解释变分近似，《美国统计学家》，64，2，140-53（2010）·Zbl 1200.65007号 ·doi:10.1198/tast.2010.09058
[33] Parisi，G.，《统计场理论》（1988），艾迪森·韦斯利·Zbl 0984.81515号
[34] Pellet，J.-P。；Elisseeff，A.，《使用马尔可夫毛毯进行因果结构学习》，《机器学习研究杂志》，2008年第9期，第7期·Zbl 1225.68205号
[35] Ranganath，R。；Gerrish，S。；Blei，D.，黑箱变分推理（2014）
[36] Resnick，S.I.，《概率路径》（2003），施普林格出版社
[37] Roberts，G.O。；Polson，N.G.，《关于吉布斯采样器的几何收敛性》，《皇家统计学会杂志：B辑（方法学）》，56，2，377-84（1994）·Zbl 0796.62029号 ·doi:10.1111/j.2517-6161.1994.tb01986.x
[38] Roberts，G.O。；Smith，A.F.，吉布斯采样器和大都会算法收敛的简单条件，随机过程及其应用，49，2，207-16（1994）·Zbl 0803.60067号 ·doi:10.1016/0304-4149（94）90134-1
[39] Royden，H.L。；Fitzpatrick，P.，《真实分析》，32（1988），纽约：麦克米伦出版社，纽约·Zbl 0704.26006号
[40] Ruder，S.2016年。梯度下降优化算法概述。arXiv预打印arXiv:1609.04747。
[41] 史密斯，A.F。；Roberts，G.O.，通过吉布斯采样器和相关马尔可夫链蒙特卡罗方法进行贝叶斯计算，英国皇家统计学会期刊：B系列（方法论），55，1，3-23（1993）·Zbl 0779.62030号 ·doi:10.1111/j.2517-6161.1993.tb01466.x
[42] 王，C。；Blei，D.M.，非共轭模型中的变分推理，机器学习研究杂志，14，1005-31（2013）·Zbl 1320.62057号
[43] Wang，Y。；Blei，D.M.，变分贝叶斯的频率一致性，美国统计协会杂志，1145271147-61（2019）·Zbl 1428.62119号 ·doi:10.1080/01621459.2018.1473776
[44] 姚，Y。；Vehtari，A。；D.辛普森。；Gelman，A.，5581-5590（2018年）
[45] 你，C。；Ormerod，J.T。；Müller，S.，《关于线性回归模型的变分贝叶斯估计和变分信息准则》，《澳大利亚和新西兰统计杂志》，56，1，73-87（2014）·Zbl 1334.62123号 ·doi:10.1111/anzs.12063
[46] 张亚勇。；Zhou，H.H.，用于社区检测的平均场变分推断的理论和计算保证，《统计年鉴》，48，5，2575-98（2020）·兹比尔1462.62221 ·doi:10.1214/19-AOS1898
[47] 张，C。；Bütepage，J。；Kjellström，H。；Mandt，S.，变分推理的进展，IEEE模式分析和机器智能汇刊，41,82008-26（2019）·doi:10.1109/TPAMI.2018.2889774
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。