×

伪边缘哈密顿蒙特卡罗。 (英语) Zbl 07415084号

摘要:存在难以处理的似然函数时的贝叶斯推断在计算上具有挑战性。当采用马尔可夫链蒙特卡罗(MCMC)方法来近似此背景下的后验分布时,通常要么使用MCMC方案,该方案针对参数和一些辅助潜在变量的联合后验,要么使用伪边缘Metropolis-Hastings(MH)方案。后者模拟MH算法,通过无偏逼近难以处理的似然,以参数的边缘后验为目标。然而,在参数和辅助变量在后验下强相关和/或后验是多模态的情况下,吉布斯采样或哈密顿蒙特卡罗(HMC)的性能较差,伪边缘MH算法和任何其他MH方案一样,对于高维参数将效率低下。我们在这里提出了一种原始的MCMC算法,称为伪边缘HMC,它结合了HMC和伪边缘方案的优点。具体而言,PM-HMC方法由一个精确参数(N)控制,控制似然的近似值,对于任何(N),它对参数的边际后验进行采样。此外,当(N)趋于无穷大时,其样本轨迹和接受概率收敛到理想但难以处理的HMC算法的轨迹和接受几率,该HMC算法可以获得难以处理的似然及其梯度。我们通过实验证明,PM-HMC可以显著优于标准HMC和伪边缘MH方案。

MSC公司:

68T05年 人工智能中的学习和自适应系统
PDF格式BibTeX公司 XML格式引用
全文: arXiv公司 链接