×

香草和Rao-blackwellized SMC采样器贝叶斯逆问题的无成本超参数选择/平均。 (英语) Zbl 1523.62041号

摘要:在贝叶斯反问题中,一个目标是描述给定间接测量的一组未知量的后验分布。对于非线性/非高斯问题,解析解很少可用:序贯蒙特卡罗采样器通过构造一个平滑到达后验密度的辅助序列,为近似复杂后验密度提供了一个强大的工具。通常,后验值取决于标量超参数,对于该超参数,可用的先验信息有限。在这项工作中,我们表明,适当设计的序贯蒙特卡罗(SMC)采样器自然可以免费提供与此超参数相关的边际似然近似值,即以可忽略的额外计算成本。该方法首先构造辅助分布序列,使得每个分布序列都可以解释为对应于不同超参数值的后验分布。这可以用来在经验贝叶斯(EB)方法中执行超参数的选择,以及在完全贝叶斯(FB)方法中根据一些超先验分布在超参数的值之间进行平均。对于FB方法,该方法的另一个优点是允许以可忽略的计算成本进行先验灵敏度分析。此外,所提出的方法在所有(相关)迭代中利用粒子,从而缓解了SMC采样器的一个已知限制,即通常会丢弃中间迭代中的所有样本。我们给出了两种不同情况下的数值结果,其中超参数仅影响可能性:一个玩具示例,其中SMC采样器用于近似全后验分布;以及一个脑成像示例,其中使用Rao-Blackwellized SMC采样器来近似条件线性高斯模型中参数子集的后验分布。

理学硕士:

62-08 统计问题的计算方法
2015年1月62日 贝叶斯推断
65二氧化碳 蒙特卡罗方法
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Bernton,E,Heng,J,Doucet,A,Jacob,P.E.:薛定谔桥取样器。电子版1912.13170,ArXiv,(2019)
[2] 肖邦,N.,帕帕斯皮利奥普洛斯,O.:序贯蒙特卡洛简介。施普林格(2020)·Zbl 1453.62005年
[3] Dau,H.-D.,Chopin,N.:无浪费的连续蒙特卡洛。J.R.统计社会服务。B统计方法。84(1), 114-148 (2022) ·兹伯利07593406
[4] 德博托利,V。;Durmus,A。;佩雷拉,M。;费尔南德斯·维达尔(Fernandez Vidal),A.,《利用未调整的朗之万蒙特卡罗进行有效随机优化》,统计计算。(2021) ·Zbl 1475.62026号 ·doi:10.1007/s11222-020-09986-y
[5] Del Moral,P。;Doucet,A。;Jasra,A.,《序贯蒙特卡罗采样器》,J.Royal Stat.Soci:B系列(Stat.Methodol.),68,3,411-436(2006)·Zbl 1105.62034号 ·文件编号:10.1111/j.1467-9868.2006.00553.x
[6] Del Moral,P。;Doucet,A。;Jasra,A.,贝叶斯计算的序贯蒙特卡罗,Bay。《统计》,8、1、34(2007年)·兹比尔1252.62016
[7] Del Moral,P。;Doucet,A。;Jasra,A.,用于近似贝叶斯计算的自适应序贯蒙特卡罗方法,统计计算。,22, 5, 1009-1020 (2012) ·Zbl 1252.65025号 ·doi:10.1007/s11222-011-9271-y
[8] Douc,R.,Cappé,O.,Moulines,E.:粒子滤波重采样方案的比较。摘自:ISPA 2005。第四届图像和信号处理与分析国际研讨会论文集,2005年,第64-69页。IEEE(2005)
[9] 福克斯,CW;Roberts,Stephen J.,变分贝叶斯推理教程,Artif。智力。修订版,38,85-95(2012)·doi:10.1007/s10462-011-9236-8
[10] Gerber,M。;肖邦,N。;Whiteley,N.,《重采样方法的负关联、排序和收敛》,《Ann.Stat.》,第37、4、2236-2260页(2019年)·Zbl 1429.62154号
[11] 吉尔克斯,WR;理查森,S。;Spiegelhalter,D.,《马尔可夫链蒙特卡罗实践》(1995),剑桥:CRC出版社,剑桥·Zbl 0832.00018号 ·doi:10.1201/b14835
[12] Good,IJ,概率估计:一篇关于现代贝叶斯方法的文章(1965年),剑桥:麻省理工学院出版社,剑桥·Zbl 0168.39603号
[13] Gramacy,R。;桑沃斯,R。;King,R.,重要性调整,统计计算。,20, 1, 1-7 (2010) ·数字对象标识代码:10.1007/s11222-008-9108-5
[14] 瓜尼埃罗,P。;Johansen,AM;Lee,A.,《迭代辅助粒子过滤器》,J.Am.Stat.Assoc.,112,520,1636-1647(2017)·doi:10.1080/01621459.2016.1222291
[15] Hämäläinen,m。;哈里·R。;伊莫尼埃米,RJ;Knuutila,J。;Lounasmaa,OV,脑磁图学理论、仪器和在工作人脑非侵入性研究中的应用,Rev.Mod。物理。,65, 413-497 (1993) ·doi:10.103/RevModPhys.65.413
[16] Kuntz,J.,Lim,J.N.,Johansen,A.M.:潜在变量模型最大似然训练的粒子算法。《第26届国际人工智能与统计会议论文集》(AISTATS),机器学习研究论文集第206卷,5134-5180页,4月(2023年)
[17] 德罗万迪,CC;南部,LF;Pettitt,AN,具有独立马尔可夫链蒙特卡罗建议的顺序蒙特卡罗采样器,Bay。分析。,14, 3, 135-143 (2019) ·Zbl 1421.62059号
[18] Liu,JS,科学计算中的蒙特卡洛策略(2008),柏林:施普林格,柏林·Zbl 1132.65003号
[19] Murphy,Kevin,Russell,Stuart:动态贝叶斯网络的Rao-Blackwellised粒子滤波。《序贯蒙特卡罗方法在实践中的应用》,第499-515页。斯普林格(2001)·Zbl 1056.93587号
[20] Neal,RM,退火重要性抽样,统计计算。,11, 2, 125-139 (2001) ·doi:10.1023/A:1008923215028
[21] Le Thu,T。;Nguyen,FS;彼得斯,GW;Delignon,Y.,《贝叶斯推断的高效序贯蒙特卡罗采样器》,IEEE Trans。信号处理。,64, 5, 1305-1319 (2016) ·Zbl 1412.94067号 ·doi:10.10109/TSP.2015.2504342文件
[22] 伦德尔,LJ;Johansen,AM;A.李。;Whiteley,N.,全球共识蒙特卡罗,J.计算。图表。统计,30,2,249-259(2021)·Zbl 07499857号 ·doi:10.1080/10618600.2020.1811105
[23] Ristic,B。;Vo、B-N;克拉克,D。;Vo,B-T,多目标跟踪算法性能评估指标,IEEE Trans。信号处理。,59, 7, 3452-3457 (2011) ·Zbl 1392.94656号 ·doi:10.1109/TSP.2011.2140111
[24] 斯科特,SL;拦截器,AW;博纳西,FV;奇普曼,HA;乔治,EI;McCulloch,RE,Bayes and big data:共识蒙特卡罗算法,Int.J.Manag。科学。工程管理。,11, 2, 78-88 (2016)
[25] Sommariva,S.,Sorrentino,A.:半线性逆问题的顺序蒙特卡罗采样器及其在脑磁图学中的应用。反向探头。30(11), 114020 (2014) ·Zbl 1329.92070号
[26] Sorrentino,A。;Johansen,AM;阿斯顿,JAD;尼科尔斯,TE;Kendall,WS,脑磁图静态偶极子的动态滤波,年鉴应用。统计,7955-988(2013)·Zbl 1288.62168号 ·doi:10.1214/12-AOAS611
[27] Sorrentino,A。;卢里亚,G。;Aramini,R.,利用自适应序贯蒙特卡罗采样器对MEG中单个地形进行贝叶斯多极建模,逆概率。,30, 4, 045010 (2014) ·Zbl 1301.92045号 ·doi:10.1088/0266-5611/30/4/045010
[28] Stuart,AM,《反问题:贝叶斯视角》,数字学报,19451-559(2010)·Zbl 1242.65142号 ·doi:10.1017/S0962492910000061
[29] Syed,S.、Romaniello,V.、Campbell,T.、Bouchard-C.:Alexandre:优化路径上的并行回火。在:关于机器学习的国际会议,第10033-10042页。PMLR(2021年)
[30] Viani,A.,Luria,G.,Bornfleth,H.,Sorrentino,A.:贝叶斯调整高斯的地方:稳定多极估计的条件高斯先验。反向探测。图像,15(5),(2021)·Zbl 1473.62097号
[31] 周,Y。;Johansen,AM;Aston,JAD,《走向自动模型比较:自适应序贯蒙特卡罗方法》,J.Compute。图表。统计,25,3,701-726(2016)·doi:10.1080/10618600.2015.1060885
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。