×

小世界MCMC和收敛到多模态分布:从慢混合到快混合。 (英语) Zbl 1139.65001号

马尔可夫链蒙特卡罗(MCMC)方法的一个主要问题是寻找混合时间不会随着空间大小或复杂性的增加而过快增长的采样方案。
本文比较了当建议分布为“局部链”和“小世界链”类型时,Metropolis-Hastings(MH)链到多模态目标分布的收敛速度。所考虑的状态空间(Omega)配备了两个度量:作为勒贝格度量的参考度量(mu)和作为目标分布的Borel概率度量(pi)。
在第1节中,描述了MH算法、几何遍历性和谱间隙的概念和细节,谱间隙是衡量马尔可夫链收敛速度的平稳测度。J.契格普林斯顿大学1969、195–199(1970;Zbl 0212.44903号)]提醒人们注意不平等。给出了log-concave,(alpha-\)光滑log-convave函数的概念。引入了(pi,)复杂性中的慢混合和快混合的概念,它们是以谱间隙的形式给出的。定理3.1在多模概率测度的复杂性中给出了局部MH链缓慢混合和小世界链快速混合的充分条件
在第2节中,状态分解定理的新版本N.马德拉斯D.兰德尔【Ann.Appl.Probab.12,No.2,581-606(2002;Zbl 1017.60080号)]建议。定理2.2给出了整个MH链的光谱间隙有界于以下范围,这是通过考虑每个模式内的混合速度和不同模式之间的混合速度来实现的。
在第3节中,给出了分布中每个对数曲线段的电导下限。定理3.2是等距不等式的对数压缩形式R.Kannan,L.LovászM.西蒙诺维奇[离散计算几何.13,No.3–4,541–559(1995;Zbl 0824.52012号)]. 定理3.4说明了由均匀(δ)-球建议诱导的具有给定过渡核的MH链电导的下限。
在第4节中,主要结果的证明被公开。
在第5节中,讨论了所得结果对都市耦合MCMC收敛速度的可能应用。

MSC公司:

65二氧化碳 蒙特卡罗方法
65立方厘米 马尔可夫链的数值分析或方法
65立方厘米 其他概率计算问题(MSC2010)
11公里45 伪随机数;蒙特卡罗方法
11公里55 其他算法和扩展的度量理论;测度与Hausdorff维数
60E05型 概率分布:一般理论
60J10型 马尔可夫链(离散状态空间上的离散时间马尔可夫过程)
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Applegate,D.和Kannan,R.(1990年)。近对数函数的采样和积分。程序中。第23届ACM STOC 156–163。纽约ACM出版社。
[2] Bhatnagar,N.和Randall,D.(2004)。Potts模型上模拟回火的缓慢混合。第15届ACM–SIAM离散算法年度研讨会论文集(洛杉矶新奥尔良)478–487。费城SIAM·Zbl 1318.82023号
[3] Bobkov,S.G.(1999)。对数压缩概率测度的等周不等式和解析不等式。安·普罗巴伯。27 1903–1921. ·Zbl 0964.60013号 ·doi:10.1214/aop/1022677553
[4] Borell,C.(1974年)。局部凸空间上的凸测度。Ark.数学。12 239–252. ·Zbl 0297.60004号 ·doi:10.1007/BF02384761
[5] Chan,K.S.和Geyer,C.J.(1994年)。Tierney对论文的讨论。安。统计师。22 1747–1758.
[6] Geyer,C.J.(1991)。马尔可夫链蒙特卡罗最大似然。《计算科学与统计:第23届界面研讨会论文集》(E.M.Keramides,ed.)156-163。费尔法克斯站接口基础·Zbl 0751.12004号 ·doi:10.1007/BF02950753
[7] Geyer,C.J.和Thompson,E.A.(1995年)。退火马尔可夫链蒙特卡罗及其在祖先推断中的应用。J.艾默。统计师。协会90 909–920·Zbl 0850.62834号 ·doi:10.2307/2291325
[8] Guan,Y.、Flei,R.、Joyce,P.和Krone,S.M.(2006)。小世界中的马尔可夫链蒙特卡罗。统计师。计算。16 193–202. ·doi:10.1007/s11222-006-6966-6
[9] 黑斯廷斯,W.K.(1970)。使用马尔可夫链的蒙特卡罗抽样方法及其应用。生物特征57 97–109·Zbl 0219.65008号 ·doi:10.1093/biomet/57.1.97
[10] Jarner,S.F.和Yuen,W.K.(2004)。无界状态空间上Metropolis算法收敛速度的电导界。申请中的预付款。普罗巴伯。36 243–266. ·Zbl 1042.60040号 ·doi:10.1239/aap/1077134472
[11] Kannan,R.和Li,G.(1996年)。按多元正态密度抽样。第37届IEEE计算机科学基础年会(FOCS’96)204–212。IEEE计算。加利福尼亚州洛斯阿拉米托斯Soc.Press。
[12] Kannan,R.、Lovász,L.和Simonovits,M.(1995年)。凸体的等周问题和局部化引理。离散计算。地理。13 541–559. ·Zbl 0824.52012号 ·doi:10.1007/BF02574061
[13] Kirkpatrick,S.,Jr.、Gelatt,C.D.和Vecchi,M.P.(1983年)。通过模拟退火进行优化。科学220 671–680·Zbl 1225.90162号 ·doi:10.1212/科学220.4598.671
[14] Lawler,G.F.和Sokal,A.D.(1988年)。马尔可夫链和马尔可夫过程的(L^2)谱的界:Cheeger不等式的推广。事务处理。阿默尔。数学。Soc.309 557–580。JSTOR公司:·Zbl 0716.60073号 ·doi:10.2307/200925
[15] Leindler,L.(1972)。关于Hölder不等式的一个逆命题。二、。科学学报。数学。(塞格德)33 217–223·兹比尔0245.26011
[16] Lovász,L.和Simonovits,M.(1993)。凸体中的随机行走和改进的体积算法。随机结构算法4 359–412·Zbl 0788.60087号 ·doi:10.1002/rsa.3240040402
[17] Lovász,L.和Vempala,S.(2003)。对数凹函数的几何结构和一种(O^*(n^3))采样算法。微软研究技术报告MSR-TR-2003–4。可在网址:http://www-math.mit.edu/vempala/papers/logcon-ball.pdf。
[18] Lovász,L.和Vempala,S.(2003)。对数凹函数:几何和高效采样算法。第44届IEEE计算机科学基础年会(FOCS’03)1-10。IEEE计算。加利福尼亚州洛斯阿拉米托斯Soc.Press。
[19] Madras,N.和Randall,D.(2002年)。收敛速度分析的马尔可夫链分解。Ann.应用。普罗巴伯。12 581–606·Zbl 1017.60080号 ·doi:10.1214/aoap/1026915617
[20] Marinari,E.和Parisi,G.(1992年)。模拟回火:一种新的蒙特卡罗方案。欧罗普提斯。莱特。19 451–458.
[21] Martin,R.A.和Randall,D.(2000年)。使用新的马尔可夫链分解方法对吸附楼梯走道进行采样。第41届IEEE计算机科学基础年会(FOCS’01)492-502。IEEE计算。加利福尼亚州洛斯阿拉米托斯Soc.Press。
[22] Metropolis,N.、Rosenbluth,A.E.、Rosenbruth,M.N.、Teller,A.H.和Teller等人(1953年)。快速计算机器的状态方程计算。化学杂志。物理。21 1087–1091.
[23] Peña,J.M.(2005)。正矩阵实特征值的排除和包含区间。SIAM J.矩阵分析。申请。26 908–917. ·兹比尔1082.15031 ·doi:10.1137/04061074X
[24] Prékopa,A.(1973)。对数凹度量和函数。科学学报。数学。(塞格德)34 335–343·Zbl 0264.90038号
[25] Roberts,G.O.和Rosenthal,J.S.(1997年)。几何遍历性和混合马尔可夫链。电子。公共概率。2 13–25. ·Zbl 0890.60061号
[26] Roberts,G.O.和Tweedie,R.L.(2001)。可逆马氏链的几何(L^2)和(L^1)收敛性等价。J.应用。普罗巴伯。38 37–41. ·Zbl 1011.60050号 ·doi:10.1239/jap/1085496589
[27] Watts,D.J.和Strogatz,S.H.(1998年)。“小世界”网络的集体动态。自然393 440–442·Zbl 1368.05139号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。