×
李，陈;马修·邓洛普;乔治·斯塔德勒

用于保边反演的贝叶斯神经网络先验知识。 （英语） Zbl 07584864号

反向探测。成像 16，第5期，1229-1254（2022）.
摘要：我们考虑贝叶斯逆问题，其中未知状态被假定为一个具有先验不连续结构的函数。基于具有重尾权值的神经网络的输出，引入了一类先验分布，其动机是关于此类网络的无穷宽极限的现有结果。我们从理论上表明，即使在网络宽度有限的情况下，来自此类先验的样本也具有理想的类间断性质，这使得它们适合于保边反演。数值上，我们考虑了定义在一维和二维空间域上的反褶积问题，以说明这些先验知识的有效性；利用MAP估计、MCMC维数抽样和基于集合的近似来研究后验分布。点估计的精度超过了从非重尾先验中获得的精度，不确定性估计可以提供更有用的定性信息。

引用于三文件

MSC公司：

2015年1月62日 贝叶斯推断
68T07型 人工神经网络与深度学习
60电子07 无限可分分布；稳定分布
65二氧化碳 蒙特卡罗方法

关键词：

贝叶斯先验;贝叶斯神经网络;反问题;\（α）-稳定分布;去模糊
PDF格式BibTeX公司 XML格式引用
\textit{C.Li}等人，《反问题》。成像16，编号51229-1254（2022；Zbl 07584864）
全文： 内政部 arXiv公司

参考文献：

[1] L.Ardizzone、J.Kruse、C.Rother和U.Köthe，用可逆神经网络分析反问题，In学习代表国际会议, 2019, https://openreview.net/forum？id=rJed6j0cKX。
[2] M.Asim，M.Daniels，O.Leong，A.Ahmed和P.Hand，反问题的可逆生成模型：缓解表示误差和数据集偏差，In第37届机器学习国际会议记录，（编辑H.D.Ⅲ和A.Singh），《机器学习研究论文集》，PMLR，119（2020），399-409。
[3] A.Beskos；M.Girolma；S.Lan；P.E.Farrell；A.M.Stuart，无限维反问题的几何MCMC，J.Compute。物理。，335, 327-351 (2017) ·兹比尔1375.35627 ·doi:10.1016/j.jcp.2016.12.041
[4] H.Bölcskei；P.Grohs；G.Kutyniok；P.Petersen，稀疏连接深度神经网络的最佳逼近，SIAM J.Math。数据科学。，1, 8-45 (2019) ·Zbl 1499.41029号 ·doi:10.1137/18M118709X
[5] S.Borak、W.Härdle和R.Weron，稳定分布，21-44，金融和保险统计工具, (2005), 21-44. ·Zbl 1078.62112号
[6] T.Bui-Thanh；O.Ghattas；J.Martin；G.Stadler，无限维贝叶斯反问题的计算框架，第一部分：线性化情况，及其在全球地震反演中的应用，SIAM J.Sci。计算。，35, 2494-2523 (2013) ·Zbl 1287.35087号 ·数字对象标识码：10.1137/12089586X
[7] N.K.Chada，S.Lasanen和L.Roininen，（α）稳定薄板的后验收敛分析，2019年，arXiv:1907.03086。
[8] N.K.Chada；罗伊宁乳杆菌；J.Suuronen，贝叶斯反演的Cauchy-markov随机场先验，Stat.Comput。，32, 33 (2022) ·Zbl 1484.62013年 ·doi:10.1007/s11222-022-10089-z
[9] A.Chambolle、M.Novaga、D.Cremers和T.Pock，《图像分析总变化介绍》，In稀疏恢复的理论基础和数值方法，2010年·Zbl 1209.94004号
[10] V.Chen，M.M.Dunlop，O.Papaspiliopoulos和A.M.Stuart，贝叶斯反问题中的维稳健MCMC，2019，arXiv:1803.03344。
[11] S.L.科特；M.Dashti；A.M.Stuart，偏微分方程贝叶斯反问题近似，SIAM J.Numer。分析。，48, 322-345 (2010) ·Zbl 1210.35284号 ·数字对象标识代码：10.1137/090770734
[12] S.L.科特；G.O.Roberts；A.M.Stuart；D.White，MCMC函数方法：修改旧算法使其更快，Statist。科学。，28, 424-446 (2013) ·Zbl 1331.62132号 ·doi:10.1214/13-STS421
[13] M.Dashti；S.Harris；A.Stuart，贝叶斯反问题的贝索夫先验，逆问题。成像，6183-200（2012）·Zbl 1243.62032号 ·doi:10.3934/ipi.2012.6.183
[14] A.G.de G.Matthews、J.Hron、M.Rowland、R.E.Turner和Z.Ghahramani，广深神经网络中的高斯过程行为，in学习代表国际会议, 2018, https://openreview.net/forum？id=H1-nGgWC-。
[15] R.Der和D.Lee，超越高斯过程：关于无限网络的分布，In神经信息处理系统研究进展（编辑：Y.Weiss、B.Schölkopf和J.C.Platt），麻省理工学院出版社，（2006），275-282，http://papers.nips.cc/paper/2869-beyond-gaussian-processes-on-distributions-of-infinite-networks.pdf。
[16] J.N.Franklin，不适定线性问题的适定随机扩张，J.Math。分析。申请。，31, 682-716 (1970) ·Zbl 0198.20601号 ·doi:10.1016/0022-247X（70）90017-X
[17] B.V.Gnedenko和A.N.Kolmogorov，独立随机变量和的极限分布，Addison-Wesley Publishing Co.，Inc.，马萨诸塞州剑桥市，1954年·Zbl 0056.3601号
[18] G.González；V.Kolehmainen公司；A.Seppänen，阻抗层析成像中的各向同性和各向异性总变差正则化，计算。数学。申请。，74, 564-576 (2017) ·Zbl 1382.92174号 ·doi:10.1016/j.camwa.2017.05.004
[19] M.海尔；A.M.Stuart；S.J.Vollmer，无限维Metropolis-Hastings算法的谱间隙，Ann.Appl。可能性。，24, 2455-2490 (2014) ·兹比尔1307.65002 ·doi:10.1214/13-AAP982
[20] A.Immer、M.Korzepa和M.Bauer，通过局部线性化改进贝叶斯神经网络的预测，InAISTATS公司, (2021), 703-711, http://proceedings.mlr.press/v130/immer21a.html。
[21] J.Kaipio和E.Somersalo，统计和计算反问题《应用数学科学》，第160页。Springer-Verlag，纽约，2005年，https://cds.cern.ch/record/1338003。 ·Zbl 1068.65022号
[22] J.凯皮奥；E.Somersalo，《统计反问题：离散化、模型简化和反犯罪》，J.Compute。申请。数学。，198, 493-504 (2007) ·Zbl 1101.65008号 ·doi:10.1016/j.cam.2005.09.027
[23] B.Lakshminarayanan、A.Pritzel和C.Blundell，使用深度集合进行简单且可扩展的预测不确定性估计，In第31届神经信息处理系统国际会议记录，NIPS’17，（2017），6405-6416。
[24] M.拉萨；E.萨克斯曼；S.Siltanen，离散变贝叶斯反演和贝索夫空间先验，反演问题。成像，387-122（2009）·Zbl 1191.62046号 ·doi:10.3934/ipi.2009.3.87
[25] M.拉萨；S.Siltanen，在保边贝叶斯反演中，可以使用总变差先验吗？，反问题，20，1537-1563（2004）·Zbl 1062.62260号 ·doi:10.1088/0266-5611/20/5/013
[26] M.Markkanen；罗伊宁乳杆菌；J.M.J.Huttunen；S.Lasanen，保边贝叶斯反演的柯西差分先验，J.逆病态概率。，27, 225-240 (2019) ·兹伯利1417.49049 ·doi:10.1515/jiip-2017-0048
[27] R.M.Neal，无限网络的先验，神经网络的贝叶斯学习，118，29-53（1996）·Zbl 0888.62021号 ·doi:10.1007/978-1-4612-0745-02
[28] J.Nocedal和S.J.Wright，数值优化第二版，《Springer运筹学与金融工程系列》，Springer出版社，纽约，2006年·Zbl 1104.65059号
[29] R.Rahaman和A.H.Thiery，不确定性量化和深度集成，2020，arXiv:2007.08792。
[30] C.E.Rasmussen和C.K.I.Williams，机器学习的高斯过程（自适应计算和机器学习）麻省理工学院出版社，马萨诸塞州剑桥，2006年·Zbl 1177.68165号
[31] V.K.Rohatgi，概率统计导论纽约威利出版社，1976年·Zbl 0354.62001号
[32] C.先令；B.斯普伦克；P.Wacker，关于贝叶斯反问题基于Laplace的Monte Carlo方法的Laplace近似收敛性和噪声级鲁棒性，Numer。数学。，145, 915-971 (2020) ·Zbl 1446.65098号 ·doi:10.1007/s00211-020-01131-1
[33] A.M.Stuart，《逆向问题：贝叶斯观点》，《数值学报》。，19, 451-559 (2010) ·Zbl 1242.65142号 ·doi:10.1017/S0962492910000061
[34] T·J·沙利文（T.J.Sullivan），适定贝叶斯反问题和重尾稳定拟巴拿赫空间先验，逆问题。成像，11857-874（2017）·Zbl 1368.65085号 ·doi:10.3934/ipi.2017040
[35] C.K.I.Williams，无限网络计算，In第九届神经信息处理系统国际会议论文集，NIPS’96，麻省理工学院出版社，美国马萨诸塞州剑桥，（1996），295-301。
[36] Z.-H.周；J.Wu；唐文华，《集成神经网络：许多人可能比所有人都好》，《人工智能》，第137239-263页（2002年）·Zbl 0995.68077号 ·doi:10.1016/S0004-3702（02）00190-X
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。