×

吉布斯后收敛和热力学形式。 (英语) Zbl 1493.62510号

摘要:在本文中,当模型族由适当的随机过程组成时,我们考虑贝叶斯推理过程的后验一致性。具体地说,我们假设观察到一个未知的遍历过程,并且可以访问由依赖过程组成的一系列模型。在这种情况下,我们考虑吉布斯后验推理,它是标准贝叶斯推理的一种基于损失的推广。我们的主要结果刻画了模型空间上Gibbs后验分布的渐近行为。此外,我们还表明,在适当指定模型的情况下,我们的收敛结果可以用于建立后验一致性。我们的模型过程是通过动力系统的热力学形式定义的,它们允许很大程度的依赖性,包括无界阶的马尔可夫链和非任何阶的马尔可夫过程。这项工作在吉布斯后验推理和动力系统的热力学形式主义之间建立了密切的联系,我们希望这将在非参数贝叶斯分析和热力学形式主义中带来新的问题和结果。

MSC公司:

2009年6月26日 非马尔可夫过程:估计
37天35分 热力学形式,变分原理,动力系统的平衡态
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] ALVES,J.F.、RAMOS,V.和SIQUEIRA,J.(2019年)。非均匀双曲方程组的平衡稳定性。遍历理论动力学。系统39 2619-2642. ·Zbl 1436.37043号 ·doi:10.1017/etds.2017.138
[2] BELISER,E.和NURUSHEV,N.(2019)。投影结构的一般框架。预印。arXiv:1904.01003提供。
[3] BENEDICKS,M.和YOUNG,L.-S.(2000年)。某些Hénon映射的马尔可夫扩张和相关性衰减。Astérisque酒店13-56. ·兹比尔1044.37013
[4] BISSIRI,P.G.、HOLMES,C.C.和WALKER,S.G.(2016)。更新信念分布的一般框架。J.R.Stat.Soc.系列。B.统计方法。78 1103-1130. ·Zbl 1414.62039号 ·doi:10.1111/rssb.12158
[5] BOWEN,R.(1975)。平衡态与Anosov微分态的遍历理论.数学课堂笔记,卷. 470. 柏林施普林格·Zbl 0308.28010号
[6] CATONI,O.(2007)。Pac-Bayesian监督分类:统计学习的热力学.数理统计研究所讲稿——专题丛书俄亥俄州比奇伍德IMS·Zbl 1277.62015年
[7] CHAZOTTES,J.-R.,FLORIANI,E.和LIMA,R.(1998)。相对熵与动力系统中吉布斯测度的识别。《统计物理学杂志》。90 697-725. ·Zbl 0927.37003号 ·doi:10.1023/A:1023220802597
[8] CHOPIN,N.、GADAT,S.、GUEDJ,B.、GUYADER,A.和VERNET,E.(2015)。关于高维贝叶斯统计的一些最新进展。现代化Aléatoire et Statistique-MAS旅程2014ESAIM程序。调查51 293-319. EDP科学。,莱斯乌利斯·Zbl 1330.62225号 ·doi:10.1051/proc/201551016
[9] COVER,T.M.和THOMAS,J.A.(2012年)。信息论要素Wiley Interscience,新泽西州霍博肯。
[10] 德拉鲁,T.(2006)。遍历理论中的连接介绍。离散Contin。动态。系统。15 121-142. ·兹比尔1105.37003 ·doi:10.3934/dcds.2006.15.121
[11] DIACONIS,P.和FREEDMAN,D.(1986年)。贝叶斯估计的一致性。安。统计师。14 1-67. ·Zbl 0595.62022号 ·doi:10.1214/aos/1176349830
[12] DIACONIS,P.W.和FREEDMAN,D.(1998)。非参数回归的Bayes估计的一致性:正态理论。伯努利4 411-444. ·Zbl 1037.62031号 ·doi:10.2307/3318659
[13] DOOB,J.L.(1949)。鞅理论的应用。概率计算和Ses应用.国家科学研究中心国际学术讨论会. 13 23-27. 巴黎国家科学研究中心·Zbl 0041.45101号
[14] DOUC,R.、OLSSON,J.和ROUEFF,F.(2020年)。部分观测马尔可夫模型的后验一致性。随机过程。应用。130 733-759. ·Zbl 1471.60107号 ·doi:10.1016/j.spa.2019.03.012
[15] DUPUIS,P.和ELLIS,R.S.(1997年)。大偏差理论的弱收敛方法.概率论与统计学中的威利级数:概率论与统计学纽约威利·Zbl 0904.60001号 ·数字对象标识代码:10.1002/9781118165904
[16] FURSTENBERG,H.(1967)。遍历理论中的不相交性、极小集和丢番图逼近中的一个问题。数学。系统。理论1 1-49. ·Zbl 0146.28502号 ·doi:10.1007/BF01692494
[17] GASSIAT,E.和ROUSSEAU,J.(2014)。关于状态数未知的隐马尔可夫模型的后验分布。伯努利20 2039-2075. ·Zbl 1302.62183号 ·doi:10.350/13-BEJ550
[18] GEMAN S.和GEMAN D.(1984)。随机松弛、吉布斯分布和图像的贝叶斯恢复。IEEE传输。模式分析。机器。智力。6 721-741. ·Zbl 0573.62030号
[19] Ghosal,S.和van der Vaart,A.(2017年)。非参数贝叶斯推理基础.剑桥统计与概率数学系列44.剑桥大学出版社,剑桥·兹比尔1376.62004 ·doi:10.1017/9781139029834
[20] GHOSH,J.K.和RAMAMOORTHI,R.V.(2003)。贝叶斯非参数.统计学中的斯普林格系列纽约州施普林格·Zbl 1029.62004号
[21] GLASNER,E.(2003)。通过连接的遍历理论.数学调查和专著101.阿默尔。数学。佛罗里达州普罗维登斯Soc·Zbl 1038.37002号 ·doi:10.1090/surv/101
[22] GRüNWALD,P.和VAN OMMEN,T.(2017)。针对指定错误线性模型的贝叶斯推理的不一致性,以及修复该不一致性的建议。贝叶斯分析。12 1069-1103. ·Zbl 1384.62088号 ·doi:10.1214/17-BA1085
[23] GRüNWALD,P.D.和MEHTA,N.A.(2020年)。一般无界损失函数的快速率:从ERM到广义贝叶斯。J.马赫。学习。物件。21第56、80号论文·Zbl 1498.68238号
[24] HANG,H.和STEINWART,I.(2017年)。一些混合过程和动力系统的Bernstein型不等式及其在学习中的应用。安。统计师。45 708-743. ·Zbl 1388.60060号 ·doi:10.1214/16-AOS1465
[25] JAYNES,E.T.(1973)。这是一个很好的问题。已找到。物理学。3 477-492. ·doi:10.1007/BF00709116
[26] JAYNES,E.T.(1968年)。先验概率。IEEE传输。系统。科学。赛博。4 227. ·Zbl 0181.21901号
[27] JIANG,W.和TANNER,M.A.(2008)。Gibbs后验函数用于高维分类和数据挖掘中的变量选择。安。统计师。36 2207-2231. ·Zbl 1274.62227号 ·doi:10.1214/07-AOS547
[28] KIFER,Y.(2001)。关于随机丛变换的拓扑压力。拓扑、遍历理论、实代数几何.阿默尔。数学。社会事务处理。序号. 2 202 197-214. 阿默尔。数学。佛罗里达州普罗维登斯Soc·Zbl 1183.37049号 ·doi:10.1090/trans2/202/14
[29] KIFER,Y.和LIU,P.-D.(2006)。随机动力学。动力系统手册。音量(1B 379-499)。阿姆斯特丹爱思唯尔·Zbl 1130.37301号 ·doi:10.1016/S1874-575X(06)80030-5
[30] LALLEY,S.P.(1999)。在喧嚣之下,是一片混乱。安。统计师。27 461-479. ·Zbl 0980.62085号 ·doi:10.1214/aos/1018031203
[31] LALLEY,S.P.和NOBEL,A.B.(2006)。确定性时间序列去噪。动态。部分差异。埃克。3 259-279. ·Zbl 1137.37334号 ·doi:10.4310/DPDE.2006.v3.n4.a1
[32] LAW,K.、STUART,A.和ZYGALAKIS,K.(2015)。数据同化:数学导论.应用数学课文62.商会施普林格·Zbl 1353.60002号 ·doi:10.1007/978-3-319-20325-6
[33] LEDRAPPIER,F.和WALTERS,P.(1977年)。连续变换的相对论变分原理。J.隆德。数学。Soc公司. (2) 16 568-576. ·Zbl 0388.28020号 ·doi:10.1112/jlms/s2-16.3568
[34] LI,F.和ZHANG,N.R.(2010)。结构化高维协变量空间中的贝叶斯变量选择及其在基因组学中的应用。J.艾默。统计师。协会。105 1202-1214. ·Zbl 1390.62027号 ·doi:10.1198/jasa.2010.tm08177
[35] LIND,D.和MARCUS,B.(1995年)。符号动力学和编码导论剑桥大学出版社,剑桥·Zbl 1106.37301号 ·doi:10.1017/CBO9780511626302
[36] LU,Y.,STUART,A.和WEBER,H.(2017)。布朗动力学中过渡路径的高斯近似。SIAM J.数学。分析。49 3005-3047. ·兹比尔1375.60081 ·doi:10.1137/16M1071845
[37] MCALLESTER,D.A.(1999)。一些PAC-Baysian定理。机器学习37 355-363. ·Zbl 0945.68157号
[38] MCGOFF,K.、MUKHERJEE,S.、NOBEL,A.和PILLAI,N.(2015)。某些动力系统最大似然估计的相合性。安。统计师。43 1-29. ·Zbl 1319.37006号 ·doi:10.1214/14-AOS1259
[39] MCGOFF,K.、MUKHERJEE,S.和PILLAI,N.(2015)。动力系统的统计推断:综述。统计调查。9 209-252. ·Zbl 1327.62458号 ·doi:10.1214/15-SS111
[40] MCGOFF,K.和NOBEL,A.B.动态系统和平稳过程的经验风险最小化。信息和推断。预印本。可从arXiv:1601.05033获取·Zbl 07446779号
[41] MCGOFF,K.和NOBEL,A.B.(2020年)。经验风险最小化和动力学模型的复杂性。安。统计师。48 2031-2054. ·兹比尔1459.62165 ·doi:10.1214/19-AOS1876
[42] MILLER,J.W.和DUNSON,D.B.(2019年)。通过粗化实现稳健的贝叶斯推理。J.艾默。统计师。协会。114 1113-1125. ·Zbl 1428.62287号 ·doi:10.1080/01621459.2018.1469995
[43] MITTER,S.K.和NEWTON,N.J.(2003)。非线性估计的变分方法。SIAM J.控制优化。42 1813-1833. ·Zbl 1049.93082号 ·doi:10.1137/S0363012901393894
[44] MOORES,M.、NICHOLLS,G.、PETTITT,A.N.和MENGERSEN,K.(2020年)。隐Potts模型逆温度的可缩放贝叶斯推断。贝叶斯分析。15 1-27. ·Zbl 1437.62324号 ·doi:10.1214/18-BA1130
[45] NEWTON,N.J.和MITTER,S.K.(2010年)。变分贝叶斯与可靠通信问题:II。无限系统。《统计力学杂志》。理论实验。2012年第11008页·Zbl 1202.94013号
[46] RUELLE,D.(2004)。热力学形式主义:平衡统计力学的数学结构,第2版。剑桥数学图书馆剑桥大学出版社,剑桥·Zbl 1062.82001号 ·doi:10.1017/CBO9780511617546
[47] SARIG,O.(2008)。遍历理论讲义。
[48] Schwartz,L.(1965年)。关于贝叶斯程序。Z.Wahrsch公司。版本。盖比岩4 10-26. ·Zbl 0158.17606号 ·doi:10.1007/BF000535479
[49] 沙利子,C.R.(2009)。具有相关数据和错误指定模型的贝叶斯更新动力学。电子。J.统计。3 1039-1074. ·Zbl 1326.62017年 ·doi:10.1214/09-EJS485
[50] STEINWART,I.和ANGHEL,M.(2009年)。支持向量机的一致性,用于根据未知噪声的观测值预测未知遍历动力系统的演化。安。统计师。37 841-875. ·Zbl 1162.62089号 ·doi:10.1214/07-AOS562
[51] VERNET,E.(2015)。有限状态空间非参数隐马尔可夫模型的后验一致性。电子。J.统计。9 717-752. ·兹比尔1309.62143 ·doi:10.1214/15-EJS1017
[52] VOLODIMIR,G.V.(1990年)。聚合策略。第三届计算学习理论年度研讨会论文集90 371-386. Morgan Kaufmann Publishers Inc.,美国加利福尼亚州旧金山。
[53] WALTERS,P.(1982)。遍历理论导论.数学研究生课程79.纽约-柏林施普林格·Zbl 0475.28009号
[54] WALTERS,P.(1986年)。相对压力、相对平衡状态、补偿函数和子位移之间的多对一代码。事务处理。阿默尔。数学。Soc公司。296 1-31. ·Zbl 0617.28019号 ·doi:10.2307/200558
[55] Yang,Y.和Tokdar,S.T.(2015)。高维极大极小最优非参数回归。安。统计师。43 652-674. ·Zbl 1312.62052号 ·doi:10.1214/14-AOS1289
[56] YOUNG,L.-S.(1990年)。动力系统中的大偏差。事务处理。阿默尔。数学。Soc公司。318 525-543. ·Zbl 0721.58030号 ·doi:10.2307/2001318
[57] YOUNG,L.-S.(1998年)。具有某些双曲性的动力系统的统计性质。数学年鉴. (2) 147 585-650. ·Zbl 0945.37009号 ·doi:10.2307/120960
[58] YOUNG,L.-S.(1999)。重复时间和混合速率。以色列J.数学。110 153-188. ·Zbl 0983.37005号 ·doi:10.1007/BF02808180
[59] ZELLNER,A.(1988年)。最优信息处理和贝叶斯定理。阿默尔。统计师。42 278-284. ·电话:10.2307/2685143
[60] 张涛(2006)。从(ϵ)-熵到KL熵:最小信息复杂度密度估计的分析。安。统计师。34 2180-2210. ·Zbl 1106.62005年 ·doi:10.1214/0090536000000704
[61] 张涛(2006)。统计估计的信息论上下限。IEEE传输。Inf.理论52 1307-1321. ·Zbl 1320.94033号 ·doi:10.1109/TIT.2005.864439
[62] ZOU,Z.、MUKHERJEE,S.、ANTIL,H.和AQUINO,W.(2019年)。逆问题的Gibbs后验自适应粒子近似。预印本。可在arXiv购买:1904.01003
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。