×

贝叶斯共轭梯度法(附讨论)。 (英语) Zbl 1430.62024号

摘要:数值计算的一项基本任务是求解大型线性系统。共轭梯度法是一种迭代方法,它能够快速收敛到解,特别是在使用有效的预条件时。然而,对于更具挑战性的系统,即使在执行了多次迭代之后,也可能会出现重大错误。除非能够提供更多信息,例如误差的大小,否则在这种情况下获得的估计值几乎没有价值。在本文中,我们提出了一种新的统计模型,该模型是在贝叶斯框架下建立的。我们的方法是共轭梯度法的严格推广,它被恢复为特定先验选择的后验均值。用Krylov子空间方法分析得到的估计,并给出了后验的压缩结果。然后在仿真研究中分析了该方法,并将其应用于医学成像中的一个具有挑战性的问题。

MSC公司:

62立方厘米10 贝叶斯问题;贝叶斯过程的特征
2015年1月62日 贝叶斯推断
65层10 线性系统的迭代数值方法
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Ajiz,M.A.和Jennings,A.(1984年)。“稳健的不完全Choleski共轭梯度算法”,《国际工程数值方法杂志》,20(5):949-966·Zbl 0541.65019号 ·doi:10.1002/nme.1620200511
[2] Allaire,G.和Kaber,S.M.(2008)。《数值线性代数》,《应用数学》第55卷。纽约施普林格·Zbl 1135.65014号
[3] Bartels,S.和Hennig,P.(2016)。《概率近似最小二乘法》,摘自《人工智能与统计学报》(AISTATS)。
[4] Benzi,M.(2002)。“大型线性系统的预处理技术:综述”,《计算物理杂志》,182(2):418-477·Zbl 1015.65018号 ·doi:10.1006/jcph.2002.7176
[5] Besag,J.和Green,P.J.(1993年)。《空间统计和贝叶斯计算》,《皇家统计学会杂志》。B系列(统计方法),25-37·Zbl 0800.62572号 ·doi:10.1111/j.2517-6161.1993.tb01467.x
[6] Bogachev,V.I.(1998年)。高斯度量,第62卷。美国数学学会普罗维登斯·Zbl 0913.60035号
[7] Bramble,J.H.、Pasciak,J.E.和Xu,J.(1990)。《并行多级预处理器》,《计算数学》,55(191):1-22·Zbl 0703.65076号 ·doi:10.1090/S0025-5718-1990-1023042-6
[8] Briol,F.-X.、Oates,C.J.、Girolma,M.、Osborne,M.A.和Sejdinovic,D.(2018年)。“概率积分:统计计算中的一个角色?”arXiv:1512.00933·Zbl 1420.62135号
[9] Calvetti,D.、Pitoli,F.、Somersalo,E.和Vantaggi,B.(2018)。“Bayes Meets Krylov:CGLS的统计启发先决条件”,《SIAM评论》,60(2):429-461·Zbl 1392.65047号 ·数字对象标识代码:10.1137/15M1055061
[10] Cheng,K.S.、Isaacson,D.、Newell,J.C.和Gisser,D.G.(1989)。“电流计算机断层扫描的电极模型”,IEEE生物医学工程学报,36(9):918-924。
[11] Cockayne,J.、Oates,C.J.、Ipsen,I.C.F.和Girolma,M.(2019年)。“贝叶斯共轭梯度法”补充材料贝叶斯分析·Zbl 1430.62024号
[12] Cockayne,J.、Oates,C.、Sullivan,T.和Girolma,M.(2017年)。《贝叶斯概率数值方法》,arXiv:1702.03673·Zbl 1451.65179号
[13] Cockayne,J.、Oates,C.、Sullivan,T.J.和Girolma,M.(2016)。《偏微分方程和贝叶斯反问题的概率无网格方法》,arXiv:1605.07811v1。
[14] Cotter,S.L.、Roberts,G.O.、Stuart,A.M.和White,D.(2013年)。“函数的MCMC方法:修改旧算法使其更快。”《统计科学》,28(3):424-446·Zbl 1331.62132号 ·doi:10.1214/13-STS421
[15] Davis,T.A.(2006)。稀疏线性系统的直接方法。宾夕法尼亚州费城工业和应用数学学会·Zbl 1119.65021号
[16] Diaconis,P.(1988年)。贝叶斯数值分析〉,《统计决策理论及相关主题IV》,1:163-175·Zbl 0671.65117号
[17] Dunlop,M.M.和Stuart,A.M.(2016)。“EIT的贝叶斯公式:分析和算法”,《反问题和成像》,10:1007-1036·Zbl 1348.62104号 ·doi:10.3934/ipi.2016030
[18] Evans,L.(2010)。偏微分方程,数学研究生课程第19卷。罗德岛州普罗维登斯:美国数学学会,第二版·Zbl 1194.35001号
[19] Fasshauer,G.E.(1999)。“用径向基函数求解微分方程:多级方法和平滑”,《计算数学进展》,11(2-3):139-159·Zbl 0940.65122号 ·doi:10.1023/A:1018919824891
[20] Gelman,A.、Carlin,J.B.、Stern,H.S.、Dunson,D.B.、Vehtari,A.和Rubin,D.B.(2014)。贝叶斯数据分析,第2卷。CRC出版社佛罗里达州博卡拉顿·Zbl 1279.62004号
[21] Golub,G.H.和Van Loan,C.F.(2013)。矩阵计算。约翰·霍普金斯数学科学研究。约翰·霍普金斯大学出版社,马里兰州巴尔的摩,第四版·Zbl 1268.65037号
[22] Hennig,P.(2015)。“线性解算器的概率解释”,SIAM最优化期刊,25(1):234-260·Zbl 1356.49042号 ·doi:10.1137/140955501
[23] Hennig,P.、Osborne,M.A.和Girolma,M.(2015)。“概率数字和计算中的不确定性”,《皇家学会学报A:数学、物理和工程科学》,471(2179):20150142·Zbl 1372.65010号 ·doi:10.1098/rspa.2015.0142
[24] Hestenes,M.R.和Stiefel,E.(1952年)。“求解线性系统的共轭梯度法”,《国家标准局研究期刊》,49(6):409·Zbl 0048.09901号 ·doi:10.6028/jres.049.044
[25] Holder,D.S.(2004)。电阻抗断层成像:方法、历史和应用。CRC出版社。
[26] Isaacson,D.、Mueller,J.L.、Newell,J.C.和Siltanen,S.(2004)。“通过电阻抗断层成像的D-bar方法重建胸部模型”,IEEE医学成像汇刊,23(7):821-828。
[27] Larkin,F.M.(1972年)。“希尔伯特空间中的高斯测度及其在数值分析中的应用”,《洛基山数学杂志》,2(3):379-421·Zbl 0258.65058号 ·doi:10.1216/RMJ-1972-2-3-379
[28] Liesen,J.和Strakos,Z.(2012年)。Krylov子空间方法。原理与分析。牛津大学出版社·Zbl 1263.65034号
[29] Oates,C.J.、Cockayne,J.、Aykroyd,R.G.和Girolma,M.(2019年)。《工业水力旋流器设备时间相关状态估计中的贝叶斯概率数值方法》,美国统计协会杂志。出现·Zbl 1428.62515号
[30] Owhadi,H.(2015)。“贝叶斯数值均匀化”,《多尺度建模与仿真》,13(3):812-828·Zbl 1322.35002号 ·数字对象标识代码:10.1137/140974596
[31] Parker,A.和Fox,C.(2012年)。“带共轭梯度的Krylov空间中的抽样高斯分布”,SIAM科学计算杂志,34(3):B312-B334·Zbl 1246.65057号 ·数字对象标识代码:10.1137/10831404
[32] 拉斯穆森,C.E.(2004年)。“机器学习中的高斯过程”,《智能数据分析进展》第八卷,第63-71页。柏林,海德堡:施普林格-柏林-海德堡·Zbl 1120.68436号
[33] Reinarz,A.,Dodwell,T.,Fletcher,T.、Seelinger,L.、Butler,R.和Scheichl,R.(2018年)。“沙丘复合材料-层压板高性能有限元建模的新框架”,《复合材料结构》,184:269-278。
[34] Saad,Y.(1994)。“ILUT:双阈值不完全LU因式分解”,《数值线性代数与应用》,1(4):387-402·Zbl 0838.65026号 ·doi:10.1002/nla.1680010405
[35] Saad,Y.(2003)。稀疏线性系统的迭代方法。工业和应用数学学会,宾夕法尼亚州费城,第二版·Zbl 1031.65046号
[36] Schäfer,F.、Sullivan,T.J.和Owhadi,H.(2017)。“近线性计算复杂度下稠密核矩阵的压缩、反演和近似PCA”,arXiv:1706.02205·Zbl 1461.65067号
[37] Somersalo,E.、Cheney,M.和Isaacson,D.(1992年)。“电流计算机断层扫描电极模型的存在性和唯一性”,SIAM应用数学杂志,52(4):1023-1040·Zbl 0759.35055号 ·doi:10.1137/0152060
[38] Stuart,A.M.(2010年)。“逆向问题:贝叶斯的观点”,《数值学报》,19:451-559·Zbl 1242.65142号 ·doi:10.1017/S0962492910000061
[39] Tikhonov,A.N.(1963年)。“关于不适定问题的解决和正则化方法”,载于Doklady Akademii Nauk,第151卷,第501-504页。俄罗斯科学院。
[40] Traub,J.F.、Wasilkowski,G.W.和Woźniakowski,H.(1988)。基于信息的复杂性。计算机科学和科学计算。学术出版社,马萨诸塞州波士顿,A.G.Werschulz和T.Boult撰稿·Zbl 0654.94004号
[41] Wikle,C.K.、Milliff,R.F.、Nychka,D.和Berliner,L.M.(2001)。“热带海洋表面风的时空层次贝叶斯建模”,《美国统计协会杂志》,96(454):382-397·Zbl 1022.62117号 ·doi:10.1198/016214501753168109
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。