×

成像逆问题中贝叶斯推断的近端马尔可夫链蒙特卡罗方法:当朗之万遇到莫罗时。 (英语) Zbl 1507.65037号

摘要:现代成像方法强烈依赖贝叶斯推理技术来解决具有挑战性的成像问题。目前,主要的贝叶斯计算方法是凸优化,它非常有效地扩展到高维图像模型,并提供准确的点估计结果。然而,为了执行更复杂的分析,例如图像不确定性量化或模型选择,通常需要使用计算密集型贝叶斯计算技术,例如马尔可夫链蒙特卡罗方法。本文提出了一种新的高效马尔可夫链蒙特卡罗方法,用于对对数曲线和非光滑的高维模型进行贝叶斯计算,这类模型是成像科学的核心。该方法基于正则化未调整Langevin算法,该算法利用凸分析工具,即Moreau-Yosida包络和近端算子,构造具有良好收敛性的Markov链。除了有效地缩放到高维之外,该方法还可以直接应用于当前使用近似优化算法求解的模型。我们对提出的方法进行了详细的理论分析,包括渐近和非共振收敛结果,以及容易验证的条件,以及收敛速度的显式界。提出的方法通过五个与图像反褶积和层析重建相关的实验进行了验证,这些实验涉及全变分和(ell_1)先验信息,其中我们进行了一系列具有挑战性的贝叶斯分析,这些分析涉及不确定性量化、假设检验和在缺乏实际情况下的模型选择。

MSC公司:

65立方厘米 马尔可夫链的数值分析或方法
2015年1月62日 贝叶斯推断
68单位10 图像处理的计算方法
94A08型 信息与通信理论中的图像处理(压缩、重建等)
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] M.Afonso、J.M.Bioucas-Dias和M.A.T.Figueiredo,成像逆问题约束优化公式的增广拉格朗日方法,IEEE Trans。图像处理。,20(2011年),第681-695页·Zbl 1372.94004号
[2] Y.F.Attchadeí,一类高维后验分布的Moreau-Yosida近似方案,预印本,http://arxiv.org/abs/1505.07072, 2015.
[3] D.Bakry、F.Barthe、P.Cattiaux和A.Guillin,一大类概率测度的Poincare∧不等式的简单证明,Electron。Commun公司。概率。,13(2008),第60-66页,http://eudml.org/doc/225690。 ·Zbl 1186.26011号
[4] J.M.Bardsley、A.Solonen、H.Haario和M.Laine,《随机优化:非线性反问题的后验分布抽样方法》,SIAM J.Sci。计算。,36(2014),第A1895-A1910页,https://doi.org/10.1137/10964023。 ·Zbl 1303.65003号
[5] S.Bonettini、A.Cornelio和M.Prato,《基于傅里叶变换的图像恢复的新半盲反褶积方法:在天文学中的应用》,SIAM J.Imaging Sci。,6(2013),第1736-1757页,https://doi.org/10.1137/120873169。 ·Zbl 1282.94010号
[6] X.Cai、J.D.McEwen和M.Pereyra,高维贝叶斯模型选择的近似嵌套抽样,统计学。计算。,出现·Zbl 1496.62005年
[7] X.Cai、M.Pereyra和J.D.McEwen,《无线电干涉成像的不确定性量化》。第一部分:近端MCMC方法,月。通知罗伊。天文学。Soc.,480(2018),第4154-4169页,https://doi.org/10.1093/mnras/sty2004。
[8] E.J.Candès、Y.C.Eldar、T.Strohmer和V.Voroninski,通过矩阵补全进行相位恢复,SIAM J.成像科学。,6(2013),第199-225页,https://doi.org/10.1137/110848074。 ·Zbl 1280.49052号
[9] A.Chambolle,《总变异最小化算法及其应用》,J.Math。《成像视觉》,20(2004),第89-97页,https://doi.org/10.1023/B:JMIV.0000011326760.1e。 ·Zbl 1366.94048号
[10] 陈荣浩,杨建军,袁晓元,小波域图像修复的交替方向方法,SIAM J.Imaging Sci。,4(2011),第807-826页,https://doi.org/10.1137/100807247。 ·Zbl 1234.68448号
[11] P.L.Combettes和J.-C.Pesquet,《信号处理中的近距离分裂方法》,载于《科学与工程中反问题的定点算法》,H.H.Bauschke、R.S.Burachik、P.L Combettets、V.Elser、D.R.Luke和H.Wolkowicz,eds.,Springer,纽约,2011年,第185-212页·Zbl 1242.90160号
[12] A.S.Dalalyan,平滑密度和对数曲线密度近似采样的理论保证,J.R.Stat.Soc.Ser。B统计方法。,79(2017),第651-676页,https://doi.org/10.1111/rssb.12183。 ·Zbl 1411.62030号
[13] V.De Bortoli、A.Durmus、M.Pereyra和A.F.Vidal,高维反问题中正则化参数的最大似然估计:经验贝叶斯方法。第二部分:理论分析,SIAM J.成像科学。,13(2020),第1990-2028页,https://doi.org/10.1137/20M1339842。 ·Zbl 1457.94011号
[14] D.L.Donoho,压缩传感,IEEE Trans。通知。《理论》,52(2006),第1289-1306页·Zbl 1288.94016号
[15] A.Durmus和E.Moulines,未调整Langevin算法的非渐近收敛性分析,Ann.应用。概率。,27(2017),第1551-1587页·Zbl 1377.65007号
[16] A.Eberle,《扩散的反射耦合和收缩速率》,Probab。理论相关领域,166(2016),第851-886页,https://doi.org/10.1007/s00440-015-0673-1。 ·Zbl 1367.60099号
[17] D.L.Ermak,溶液中带电粒子的计算机模拟。I.技术和平衡特性,J.Chem。物理。,62(1975年),第4189-4196页。
[18] M.Florenzano和C.Le Van,《有限维凸性与优化》,经济学研究。理论13,Springer-Verlag,柏林,2001,https://doi.org/10.1007/978-3-642-56522-9。 ·Zbl 1010.90056号
[19] P.J.Green、K.Łatuszynöski、M.Pereyra和C.P.Robert,《贝叶斯计算:当前状态的总结以及前后样本》,统计。计算。,25(2015),第835-862页,https://doi.org/10.1007/s11222-015-9574-5。 ·兹比尔1331.62017
[20] U.Grenander,模式理论教程,布朗大学应用数学系,普罗维登斯,RI,1983。
[21] U.Grenander和M.I.Miller,《复杂系统中知识的表示》,J.Roy。统计师。Soc.系列。B、 56(1994),第549-603页,https://www.jstor.org/stable/2346184。 ·Zbl 0814.62009号
[22] M.Hanke和C.Hansen,大型问题的正则化方法,调查数学。工业。,3(1993年),第253-315页·Zbl 0805.65058号
[23] G.Haro、A.Buades和J.-M.Morel,通过图像融合拍摄绘画,SIAM J.成像科学。,5(2012),第1055-1087页,https://doi.org/10.1137/120873923。 ·Zbl 1255.68236号
[24] J.Kaipio和E.Somersalo,统计和计算逆问题,Springer,纽约,2005年·Zbl 1068.65022号
[25] R.Z.Khas-minskii,递归扩散过程的遍历性和抛物型方程Cauchy问题解的稳定性,理论问题。申请。,5(1960年),第179-196页,https://doi.org/10.1137/105016。 ·Zbl 0106.12001号
[26] R.Laumont、V.De Bortoli、A.Almansa、J.Delon、A.Durmus和M.Pereyra,《使用即插即用先验信息的贝叶斯成像:当Langevin遇到Tweedie时》,SIAM J.imaging Sci。,15(2022年),第701-738页,https://doi.org/10.1137/21M1406349。 ·Zbl 1515.65144号
[27] R.Laumont、V.De Bortoli、A.Almansa、J.Delon、A.Durmus和M.Pereyra,《关于即插即用先验和随机梯度下降的最大后验估计》,预印本,https://arxiv.org/abs/2201.06133, 2022.
[28] M.Lebrun、A.Buades和J.M.Morel,非局部贝叶斯图像去噪算法,SIAM J.Imaging Sci。,6(2013),第1665-1688页,https://doi.org/10.1137/120874989。 ·Zbl 1279.68331号
[29] F.Lucka,《使用L1型先验的高维反问题中稀疏贝叶斯推断的快速马尔可夫链蒙特卡罗抽样》,反问题,28(2012),第125012条·Zbl 1266.65013号
[30] F.Lucka,《高维贝叶斯反演的快速吉布斯采样》,《反演问题》,32(2016),第115019条,http://stacks.iop.org/0266-5611/32/i=11/a=115019。
[31] M.Lustig、D.Donoho和J.M.Pauly,《稀疏MRI:压缩传感在快速MR成像中的应用》,Magnet。《医学研究》,58(2007),第1182-1195页。
[32] J.-M.Marin和C.Robert,《贝叶斯核心:计算贝叶斯统计的实用方法》,Springer Science&Business Media,纽约,2007年·Zbl 1137.62013年
[33] S.Melidonis、P.Dobson、Y.Altmann、M.Pereyra和K.C.Zygalakis,低光子成像问题的有效贝叶斯计算,预印本,http://arxiv.org/abs/206.05350, 2022.
[34] S.Meyn和R.Tweedie,《马尔可夫链和随机稳定性》,第二版,剑桥大学出版社,纽约,2009年·Zbl 1165.60001号
[35] V.I.Morgenshtern和E.J.Candés,正源的超分辨率:离散设置,SIAM J.Imaging Sci。,9(2016),第412-444页,https://doi.org/10.1137/15M1016552。 ·Zbl 1352.49041号
[36] S.Mukherjee、A.Hauptmann、O.O¨ktem、M.Pereyra和C.-B.Scho¨nlieb,学习的收敛保证重建方法,IEEE信号处理。Mag.,出现。
[37] R.M.Neal,《通过随机动力学进行贝叶斯学习》,载于《神经信息处理系统进展5》,Morgan Kaufmann,加州旧金山,1993年,第475-482页,http://dl.acm.org/citation.cfm?id=645753.667903。
[38] N.Parikh和S.Boyd,发现近似算法。最佳趋势。,1(2013年),第123-231页。
[39] G.Parisi,相关函数和计算机模拟,核物理。B、 180(1981),第378-384页。
[40] T.Park和G.Casella,《贝叶斯套索》,J.Amer。统计师。协会,103(2008),第681-686页,https://doi.org/10.1198/016214500000037。 ·Zbl 1330.62292号
[41] M.Pereyra,Proximal Markov chain Monte Carlo算法,统计。计算。,26(2016),第745-760页,https://doi.org/10.1007/s11222-015-9567-4。 ·Zbl 1505.62315号
[42] M.Pereyra,带贝叶斯置信域的最大后验估计,SIAM J.成像科学。,10(2017年),第285-302页,https://doi.org/10.1137/16M1071249。 ·Zbl 1375.94024号
[43] M.Pereyra、J.M.Bioucas-Dias和M.A.T.Figueiredo,未知调节参数下的最大后验估计,《欧洲科学院院刊》,法国尼斯,2015年,第230-234页。
[44] M.Pereyra、P.Schniter、E.Chouzenoux、J.-C.Pesquet、J.-Y.Tourneret、A.Hero和S.Mclaughlin,《信号处理中随机模拟和优化方法的调查》,IEEE J.《信号处理精选主题》。,10(2016年),第224-241页。
[45] M.Pereyra、L.Vargas Mieles和K.C.Zygalakis,使用显式稳定方法加速近端马尔可夫链蒙特卡罗,SIAM J.成像科学。,13(2020年),第905-935页,https://doi.org/10.1137/19M1283719。 ·Zbl 07218335号
[46] M.Pereyra、L.Vargas Mieles和K.C.Zygalakis,《重新审视分裂吉布斯采样器:改进其算法结构和增强目标分布》,预印本,https://arxiv.org/pdf/2206.13894.pdf, 2022.
[47] C.P.Robert,《贝叶斯选择》,第二版,施普林格,纽约,2001年·Zbl 0980.62005号
[48] C.P.Robert和D.Wraith,贝叶斯模型选择的计算方法,AIP Conf.Proc。,1193(2009),第251-262页。
[49] G.O.Roberts和R.L.Tweedie,Langevin分布及其离散近似的指数收敛性,Bernoulli,2(1996),pp.341-363,https://doi.org/10.2307/3318418。 ·Zbl 0870.60027号
[50] R.T.Rockafellar和R.J.-B.Wets,变分分析,格兰德伦数学。威斯。317,施普林格出版社,柏林,1998年,https://doi.org/10.1007/978-3-642-02431-3。 ·Zbl 0888.49001号
[51] P.J.Rossky、J.D.Doll和H.L.Friedman,布朗动力学作为智能蒙特卡罗模拟,J.Chem。物理。,69(1978年),第4628-4633页,https://doi.org/10.1063/1.436415。
[52] J.M.Sanz-Serna和K.Zygalakis,遍历随机微分方程数值逼近分布的Wasserstein距离估计,J.Mach。学习。第22号决议(2021年),第242条·Zbl 07626757号
[53] D.Talay和L.Tubaro,求解随机微分方程数值方案的全局误差展开,随机分析。申请。,8(1990),第483-509页,https://doi.org/10.1080/07362999008809220。 ·Zbl 0718.60058号
[54] A.F.Vidal、V.De Bortoli、M.Pereyra和A.Durmus,高维反问题中正则化参数的最大似然估计:经验贝叶斯方法。第一部分:方法和实验,SIAM J.成像科学。,13(2020),第1945-1989页,https://doi.org/10.1137/20M1339829。 ·Zbl 1457.94014号
[55] S.J.Vollmer和K.C.Zygalakis,随机梯度Langevin动力学的(非)渐近性质,预印本,http://arxiv.org/abs/1501.00438, 2015.
[56] M.Vono、N.Dobigeon和P.Chainais,《分裂和增强吉布斯采样器:大尺度推理问题的应用》,IEEE Trans。信号处理。,67(2019),第1648-1661页·Zbl 1415.94375号
[57] Z.Wang、J.M.Bardsley、A.Solonen、T.Cui和Y.M.Marzouk,《具有(l_1)先验的贝叶斯反问题:一种随机优化方法》,预印本,http://arxiv.org/abs/1607.01904, 2016.
[58] Z.Xing,M.Zhou,A.Castrodad,G.Sapiro,L.Carin,高光谱图像的字典学习,SIAM J.Imaging Sci。,5(2012),第33-56页,https://doi.org/10.1137/10837486。 ·Zbl 1316.62094号
[59] L.Zhu、W.Zhang、D.Elnatan和B.Huang,使用压缩传感的更快风暴,《自然方法》,9(2012),第721-723页。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。