×

用于超参数贝叶斯线性逆问题的CVAE-内吉布斯采样器。 (英语) 兹比尔1524.62126

摘要:对于先验函数或似然函数依赖于模糊超参数的贝叶斯线性逆问题,我们提出了一种基于Gibbs采样的条件变分自动编码器(CVAE-within-Gibbs)。该方法基于经典抽样理论和深生成模型的最新进展,以近似复杂的概率分布。具体来说,我们使用一个经过大量数据训练的CVAE模型来学习原始Gibbs采样器中超参数的条件密度。条件后验的学习性质比经典吉布斯采样提供了更多的灵活性,因为它避免了手动或实验确定超先验及其超参数。我们对热传导问题中的三个线性反问题,即图像去模糊、信号去噪和边界热流识别,证明了该方法的性能。

MSC公司:

2015年1月62日 贝叶斯推断
65二氧化碳 蒙特卡罗方法
68T07型 人工神经网络与深度学习

软件:

PyTorch公司
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 阿格拉瓦尔,S。;Kim,H。;Sanz-Alonso,D.,伽马超验反问题的变分推理方法,SIAM/ASA J Uncertain Quantif,10,4,1533-1559(2022)·Zbl 1514.35425号 ·doi:10.1137/21M146209X
[2] 巴纳姆,MR;Katsaggelos,AK,数字图像恢复,IEEE Signal Process Mag,14,2,24-41(1997)·数字对象标识代码:10.1109/79.581363
[3] Bardsley JM,Cui T(2019)非线性分层Baysian逆问题的大都市-哈斯廷斯-内吉布斯采样器。2017年矩阵年鉴。施普林格,第3-12页·Zbl 1419.65002号
[4] Calvetti,D。;Pragliola,M。;Somersalo,E.,从少量噪声数据中进行稀疏重建:具有广义伽玛超先验的分层贝叶斯模型分析,逆问题,36,2(2020)·Zbl 1464.62365号 ·doi:10.1088/1361-6420/ab4d92
[5] Carriquiry AL、Pawlovich M等人(2004)《从经验贝叶斯到完全贝叶斯:交通安全数据分析方法》
[6] Casella,G.,《经验贝叶斯数据分析导论》,美国统计局,39,2,83-87(1985)
[7] 开口销,SL;罗伯茨,GO;Stuart,AM,MCMC函数方法:修改旧算法使其更快,Stat Sci,28,3,424-446(2013)·Zbl 1331.62132号 ·doi:10.1214/13-STS421
[8] Donatelli M,Ferrari P,Gazzola S(2022)图像去模糊中的对称化技术。arXiv预印本arXiv:2212.05879
[9] 邓洛普,MM;马萨诸塞州伊格莱西亚斯;Stuart,AM,层次贝叶斯水平集反演,统计计算,27,6,1555-1584(2017)·Zbl 1384.62084号 ·doi:10.1007/s11222-016-9704-8
[10] 福克斯,C。;Norton,RA,线性高斯反问题中的快速采样,SIAM/ASA J Uncertain Quantif,4,1,1191-1218(2016)·Zbl 1398.94081号 ·doi:10.1137/15M1029527
[11] Gamerman,D。;Lopes,HF,马尔可夫链蒙特卡罗:贝叶斯推理的随机模拟(2006),博卡拉顿:CRC出版社,博卡拉顿·Zbl 1137.62011年 ·doi:10.1201/9781482296426
[12] Guha,N。;吴,X。;Efendiev,Y.,《偏t误差分布反问题的变分贝叶斯方法》,《计算物理杂志》,301377-393(2015)·Zbl 1349.62079号 ·doi:10.1016/j.jcp.2015.07.062
[13] 郭斌,韩毅,文J(2019)Agem:通过深度先验和抽样解决线性反问题。高级神经信息处理系统32:547-558
[14] 郭,L。;赵,XL;Gu,XM,用于图像去模糊的三维分数总变分正则张量优化模型,应用数学计算,404126224(2021)·Zbl 1510.94012号
[15] Jin,B.,脉冲噪声反问题的变分贝叶斯方法,计算物理杂志,231,2423-435(2012)·Zbl 1243.65115号 ·doi:10.1016/j.jcp.2011.09.009
[16] Jin,B。;邹,J.,通过变分方法对不适定问题的层次贝叶斯推理,计算物理杂志,229,19,7317-7343(2010)·Zbl 1198.65189号 ·doi:10.1016/j.jcp.2010.06.016
[17] 凯皮奥,J。;Somersalo,E.,《统计与计算反问题》(2006),柏林:Springer科学与商业媒体,柏林·Zbl 1068.65022号
[18] Kingma DP,Welling M(2014)《自动编码变分贝叶斯》。收录于:Bengio Y,LeCun Y(eds)第二届国际学习代表大会,ICLR 2014,加拿大AB Banff,2014年4月14日至16日,会议记录。arXiv公司:1312.6114
[19] Kullback,S。;莱布勒,RA,《信息与充分性》,《数学统计年鉴》,22,1,79-86(1951)·Zbl 0042.38403号 ·doi:10.1214/aoms/1177729694
[20] Liu,JS,《都市独立抽样与拒绝抽样和重要性抽样的比较》,《统计计算》,6,2,113-119(1996)·doi:10.1007/BF00162521
[21] 刘,Q。;Tong,XT,《使用吉布斯采样器加速都市——微分方程局部计算》,《统计计算》,30,4,1037-1056(2020)·Zbl 1447.62135号 ·doi:10.1007/s11222-020-09934-w
[22] Liu J,Sun Y,Xu X等(2019)基于总变分正则化深度图像先验的图像恢复。ICASSP 2019-2019 IEEE国际声学会议。语音和信号处理(ICASSP)。IEEE,第7715-7719页
[23] Ma Y,Tan J,Krishnan N等人(2014)信号估计的经验贝叶斯和完全贝叶斯。arXiv预打印arXiv:1405.2113
[24] Minkowycz W、Sparrow EM、Schneider GE等人(1988)《数值传热手册》
[25] Mirza M,Osindero S(2014),条件生成对抗网。arXiv预印本arXiv:11411.1784
[26] Paszke A、Gross S、Massa F等(2019)《Pytorch:一个命令式、高性能的深度学习库》。高级神经信息处理系统32:8026-8037
[27] Plassier V、Vono M、Durmus A等人(2021)DG-LMC:通过Gibbs中的Langevin Monte Carlo实现的交钥匙和可扩展同步分布式MCMC算法。In:机器学习国际会议,PMLR,第8577-8587页
[28] Rao,AM;Jones,DL,多传感器信号估计的去噪方法,IEEE Trans-signal Process,48,5,1225-1234(2000)·doi:10.1109/78.839971
[29] 李鲁丁;Osher,S。;Fatemi,E.,基于非线性总变差的噪声去除算法,Phys D非线性现象,60,1-4,259-268(1992)·Zbl 0780.49028号 ·doi:10.1016/0167-2789(92)90242-F
[30] Sohn K,Lee H,Yan X(2015)使用深层条件生成模型学习结构化输出表征。高级神经信息处理系统28:3483-3491
[31] Stuart,AM,《逆向问题:贝叶斯观点》,《数值学报》,第19期,第451-559页(2010年)·Zbl 1242.65142号 ·doi:10.1017/S0962492910000061
[32] Su X,Zamzami N,Bouguila N(2022)有限和无限离散指数混合模型的吉布斯采样完全贝叶斯推断。应用艺术智能36(1):1-28
[33] 蒂瓦里,KA;Raisutis,R。;Samaitis,V.,《提高风力涡轮机叶片超声波无损检测信噪比的信号处理方法》,Procedia Struct Integr,5,1184-1191(2017)·doi:10.1016/j.prostr.2017.07.036
[34] XT动力钳;Morzfeld,M。;Marzouk,YM,MALA-within-Gibbs采样器,用于稀疏条件结构的高维分布,SIAM科学计算杂志,42,3,A1765-A1788(2020)·Zbl 1444.62073号 ·doi:10.137/19M1284014
[35] Uribe F,Bardsley JM,Dong Y,et al(2021)一种混合吉布斯采样器,用于不确定视角的边缘保留层析重建。arXiv预打印arXiv:2104.06919
[36] Wang,J。;Zabaras,N.,逆向热传导问题的贝叶斯推理方法,《国际热质转换杂志》,47,17-18,3927-3941(2004)·1070.80002赞比亚比索 ·doi:10.1016/j.ijheatmasstransfer.2004.02.028
[37] Wang R,Tao D(2014)图像去模糊的最新进展。arXiv预印本arXiv:1409.6838
[38] Winkler C、Worrall D、Hoogeboom E等人(2019年)有条件规范化流的学习可能性。arXiv预打印arXiv:1912.00042
[39] 谢军。;科隆纳,JG;Zhang,J.,《生物声信号去噪:综述》,Artif Intell Rev,54,5,3575-3597(2021)·doi:10.1007/s10462-020-09932-4
[40] 张,C。;Arridge,S。;Jin,B.,泊松数据的期望传播,逆概率,35,8(2019)·Zbl 1425.62050号 ·doi:10.1088/1361-6420/ab15a3
[41] 周,Q。;刘伟。;Li,J.,大型线性高斯反问题的近似经验贝叶斯方法,逆问题,34,9(2018)·兹比尔1403.62037 ·doi:10.1088/1361-6420/aac287
[42] 朱旭,米兰法尔P(2010)大气湍流扭曲视频图像重建。In:视觉信息处理和通信,SPIE,第228-235页
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。