×
克里斯托夫·安德烈;埃里克·莫里斯

关于一些自适应MCMC算法的遍历性。 （英语） Zbl 1114.65001号

附录申请。可能性。 16，第3期，1462-1505（2006）.
马尔可夫链蒙特卡罗（MCMC）算法是一种流行的生成平稳分布样本的计算方法。作者提出了积分（π（f）=int_{十} （f）（x） \pi（dx），\）其中\（x\子集{\mathbb R}^{n}\）是一个可以通过\（S_{n}（f）=n^{-1}\sum_{k=1}进行近似的高维空间^{n} （f）（X_{k}）。\）这里（X_{k}:k\geq1\}）是（X）上具有转移概率（P）和平稳分布（pi.）的遍历马尔可夫链
介绍了一些算法，如Metropolis-Hastings（MH）算法、对称增量随机行走MH算法（SRWM）和其他结果。
在第2节中，根据空间（theta）中定义的调谐参数（theta，），提出了所谓自适应MCMC算法的主要概念。作者在theta中设置了（theta{0}=theta\，）（X{0}=X\，X\），对于（k\geq0\）序列（（X{k}，theta{k}）：k\geq 0}\）是递归定义的：如果（theta_{k}=theta{c}，），那么他们设置了=X，\）否则\（（X_{k+1}，\theta_{k+1}）\sim Q_{rho_{k+1}}（X__{k}，\t theta_{k}）；\cdot），\）其中\（\rho=（\rho{k}）\）是步长序列。给出了齐次马尔可夫链的概念。
第3节介绍了三个假设。定理8给出了主要结果，它是（S_{n}（f）的一个强大的大数定律（LLN）定理8证实了（S_{n}（f）到（pi（f
定理9是第4节的主要结果。在这个定理中，给出了LLN中对\（S_{n}（f）\）所要求的严格条件。建立了不变性原理。
第5节介绍了两个新条件。在定理11中，给出了噪声序列（θk}）的w.p.1收敛性。
第6节给出了初步结果在SRWM算法理论中的应用。定理15证实了强LLN适用于任何（[0,1）中的α）和任何函数（在{mathcal L}（W^{alpha}）中），并且中心极限定理适用于任何函数（（在{mathcal L{中的f（在2}上的W^{α））
第7节介绍了所得结果在独立MH算法中的应用。发展了LLN所需的一般特性和不变性原理。本节的主要结果是定理21。对于任意函数（f在{mathcal L}{V^{alpha}}中），给出了（S_{n}（f））到（pi（f。
审核人：瓦西尔·格罗兹达诺夫（布拉戈耶夫格勒）

引用于2评论
引用于83文件

MSC公司：

65二氧化碳 蒙特卡罗方法
60J27型 离散状态空间上的连续时间马尔可夫过程
60焦耳35 过渡函数、生成器和解析器
65立方厘米 马尔可夫链的数值分析或方法

关键词：

自适应马尔可夫链蒙特卡罗算法;自校正算法;Metropolis-Hastings算法;随机近似;状态相关噪声;随机变化截断;鞅;泊松法
PDF格式BibTeX公司 XML格式引用
\textit{C.Andrieu}和\textit{E.Moulines}，Ann.Appl。普罗巴伯。16，第3号，1462--1505（2006；Zbl 1114.65001）
全文： 内政部 arXiv公司

参考文献：

[1] Andrieu，C.（2004）。关于反问题统计方法会议的讨论，2003年12月。J.R.统计。Soc.序列号。B统计方法。66 633–634.
[2] Andrieu，C.和Moulines，E.（2003年）。关于一些自适应MCMC算法的遍历性。布里斯托尔大学技术报告·Zbl 1114.65001号
[3] Andrieu，C.、Moulines，E.和Priouret，P.（2005）。可验证条件下随机逼近的稳定性。SIAM J.控制优化。44 283–312之间·Zbl 1083.62073号 ·doi:10.1137/S0363012902417267
[4] Andrieu，C.和Robert，C.（2001）。控制MCMC以实现最佳采样。Cahiers du Cérér制造于0125年。
[5] Arcidiacono，P.和Jones，J.B.（2003年）。有限混合分布、序列似然和EM算法。《计量经济学》71 933–946。JSTOR公司：·Zbl 1154.62360号 ·doi:10.1111/1468-0262.00431
[6] Atchadé，Y.和Rosenthal，J.（2003）。关于自适应马尔可夫链蒙特卡罗算法。技术报告·Zbl 1085.62097号
[7] Bartusek，J.（2000）。马尔可夫链的随机逼近与优化。博士论文。
[8] Baxendale，P.H.（2005）。几何遍历马氏链的更新理论和可计算收敛速度。附录申请。普罗巴伯。15 700–738. ·兹比尔1070.60061 ·doi:10.1214/1050516040000710
[9] Benveniste，A.、Métiver，M.和Priouret，P.（1990年）。自适应算法和随机近似。纽约州施普林格·Zbl 0752.93073号
[10] Birnbaum，Z.W.和Marshall，A.W.（1961年）。一些扩展到连续参数过程的多元Chebyshev不等式。安。数学。统计师。32 687–703. ·Zbl 0114.08004号 ·doi:10.1214/aoms/1177704964
[11] Chen，H.、Guo，L.和Gao，A.（1988）。Robbins–Monro算法的收敛性和鲁棒性在随机变化的边界上截断。随机过程。申请。27 217–231·Zbl 0632.62082号 ·doi:10.1016/0304-4149（87）90039-1
[12] Chen，H.和Zhu，Y.-M.（1986）。具有随机变化截断的随机近似程序。科学。Sinica Ser.公司。A 29 914–926·Zbl 0613.62107号
[13] Duflo，M.（1997）。随机迭代系统。施普林格，纽约·Zbl 0868.62069号
[14] Dvoretzky，A.（1972年）。相依随机变量和的渐近正态性。第六届伯克利数理统计与概率研讨会论文集513–535。加州大学出版社，伯克利·Zbl 0256.60009号
[15] Gasemyr，J.（2003）。关于Metropolis–Hastings的自适应版本，带有独立的提案分发。扫描。J.统计。30 159–173. ·Zbl 1038.65005号 ·doi:10.1111/1467-9469.00324
[16] Gelman，A.、Roberts，G.和Gilks，W.（1995年）。高效都市跳跃规则。贝叶斯统计5（J.O.Berger、J.M.Bernardo、A.P.Dawid和A.F.M.Smith编辑）599-608。牛津大学出版社，纽约。
[17] Gelman，A.和Rubin，D.B.（1992年）。使用多序列的迭代模拟推断。统计师。科学。7 473–483. ·Zbl 1386.65060号
[18] Glynn，P.W.和Meyn，S.P.（1996）。泊松方程解的Liapounov界。安·普罗巴伯。24 916–931·Zbl 0863.60063号 ·doi:10.1214/aop/1039639370
[19] Haario，H.、Saksman，E.和Tamminen，J.（2001）。自适应Metropolis算法。伯努利7 223-242·Zbl 0989.65004号 ·doi:10.2307/3318737
[20] Hall，P.和Heyde，C.（1980）。鞅极限理论及其应用。纽约学术出版社·Zbl 0462.60045号
[21] Holden，L.（1998）。自适应链条。挪威计算中心技术报告。
[22] Jarner，S.和Hansen，E.（2000年）。Metropolis算法的几何遍历性。随机过程。申请。85 341–361·Zbl 0997.60070号 ·doi:10.1016/S0304-4149（99）00082-4
[23] Kushner，H.和Yin，G.（1997年）。随机逼近算法及其应用。纽约州施普林格·Zbl 0914.60006号
[24] McLeish，D.（1975）。一个极大不等式和相依强定律。安·普罗巴伯。3 829–839. ·Zbl 0353.60035号 ·doi:10.1214/aop/1176996269
[25] Meng，X.L.和Van Dyk，D.（1997）。EM算法是一首古老的民歌，用一个快速的新曲调演唱。J.R.统计。Soc.Ser B统计方法。59 511–567. JSTOR公司：·Zbl 1090.62518号 ·数字对象标识代码：10.1111/1467-9868.00082
[26] Mengersen，K.和Tweedie，R.（1996年）。黑斯廷斯和大都会算法的收敛速度。Ann.Statist公司。24 101–121. ·Zbl 0854.60065号 ·doi:10.1214/aos/1033066201
[27] Metropolis，N.、Rosenbluth，A.、Rosenbruth，M.、Teller，A.和Teller（1953）。快速计算机器的状态方程计算。化学物理学杂志21 1087–1091。
[28] Meyn，S.和Tweedie，R.（1993年）。马尔可夫链和随机稳定性。斯普林格，伦敦·Zbl 0925.60001号
[29] Meyn，S.和Tweedie，R.（1994年）。马尔可夫链收敛速度的可计算界。附录申请。普罗巴伯。4 981–1011. ·Zbl 0812.60059号 ·doi:10.1214/aoap/1177004900
[30] Nummelin，E.（1991年）。关于单核势理论中的泊松方程。数学。扫描。68 59–82. ·Zbl 0748.31012号
[31] Roberts，G.和Tweedie，R.（1996年）。多维Hastings和Metropolis算法的几何收敛性和中心极限定理。生物特征83 95–110。JSTOR公司：·Zbl 0888.60064号 ·doi:10.1093/biomet/83.1.95
[32] Titterington，D.、Smith，A.F.M.和Makov，U.（1985年）。有限混合分布的统计分析。奇切斯特威利·Zbl 0646.62013.中
[33] Wu，C.（1983）。关于EM算法的收敛性。Ann.Statist公司。11 95–103. ·Zbl 0517.62035号 ·doi:10.1214/aos/1176346060
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。