×
埃里，马克斯;拉斐尔·弗洛克;马丁·福伊德;艾森·帕皮奥安诺;丹尼尔·斯特劳布

用交叉熵方法证明贝叶斯更新的降维。 （英语） Zbl 1515.62042号

SIAM/ASA J.不确定性。数量。 11, 358-388 (2023).
小结：在反问题中，模型的参数是根据模型响应的观测值来估计的。贝叶斯方法对于解决此类问题非常有效；一种方法是为参数状态制定先验分布，并用观测值更新该先验分布以计算后验参数分布。当先验和后验显著不同和/或参数空间是高维的时，求解后验分布可能是一项挑战。我们使用了一系列重要性抽样措施，这些措施是通过缓和处理在先验和后验之间存在显著距离的逆问题的可能性而产生的。根据贝叶斯逆问题的背景，通过交叉熵最小化来确定每个重要抽样度量[M.恩格尔等，《计算杂志》。物理学。473，文章ID 111746，20 p.（2023；Zbl 07625415号)]. 为了有效地解决高维参数空间的问题，我们在原始参数空间的低维子空间中建立了最小化过程。其主要思想是分析对数似然函数梯度的二阶矩矩阵的谱，以确定合适的子空间。以下O.扎姆等【数学计算91，No.3361789-1835（2022；Zbl 07541892号)]给出了全维和子空间后验函数之间Kullback-Leibler散度的上界，可用于确定对应于给定近似误差界的反问题的有效维数。我们提出了启发式准则，用于在重要性抽样序列的每次迭代中优化选择模型数量和模型梯度评估。我们使用工程力学集合中不同参数空间维度的示例来研究此方法的性能。

MSC公司：

2015年1月62日 贝叶斯推断
62升12 序贯估计
第60页 统计学在工程和工业中的应用；控制图
60G60型 随机字段
65二氧化碳 蒙特卡罗方法

关键词：

贝叶斯反问题;高尺寸;交叉熵方法;重要性抽样;认证尺寸缩减

引文：

Zbl 07625415号;Zbl 07541892号

软件：

贝叶斯DA
PDF格式BibTeX公司 XML格式引用
\textit{M.Ehre}等人，SIAM/ASA J.不确定性。数量。11358-388（2023年；兹比尔1515.62042）
全文： 内政部 arXiv公司

参考文献：

[1] Arora，J.S.和Haug，E.J.，《结构优化中的设计敏感性分析方法》，AIAA J.，17（1979），第970-974页，doi:10.2514/3.61260。
[2] Au，S.-K.和Beck，J.L.，通过子集模拟估算高维小故障概率，Probab。工程机械。，16（2001），第263-277页。
[3] Beskos，A.、Roberts，G.、Stuart，A.和Voss，J.，扩散桥MCMC方法，斯托克。动态。，8（2008），第319-350页，doi:10.1142/S0219493708002378·Zbl 1159.65007号
[4] Betz，W.、Papaioannou，I.、Beck，J.L.和Straub，D.，贝叶斯推理与子集模拟：策略和改进，计算。方法应用。机械。工程，331（2018），第72-93页，doi:10.1016/j.cma.2017.11.021·Zbl 1439.62080号
[5] Bower，A.F.，《固体应用力学》，CRC出版社，佛罗里达州博卡拉顿，2009年。
[6] Constantine，P.G.，《主动子空间》，费城SIAM，2015年，doi:10.1137/1.9781611973860·Zbl 1431.65001号
[7] Constantine，P.G.、Kent，C.和Bui-Thanh，T.，《利用有源子空间加速马尔可夫链蒙特卡罗》，SIAM J.Sci。计算。，38（2016），第A2779-A2805页，doi:10.1137/15M1042127·Zbl 1348.65010号
[8] Cotter，S.L.、Roberts，G.O.、Stuart，A.M.和White，D.，《函数的MCMC方法：修改旧算法使其更快》，《统计科学》。，28（2013），第424-446页，doi:10.1214/13-STS421·Zbl 1331.62132号
[9] Cui，T.、Martin，J.、Marzouk，Y.M.、Solonen，A.和Spantini，A.，《非线性反问题的似然维数缩减》，《反问题》，30（2014），114015，doi:10.1088/0266-5611/30/114015·Zbl 1310.62030
[10] Cui，T.和Zahm，O.，贝叶斯反问题的无数据似然信息降维，反问题，37（2021），045009，doi:10.1088/1361-6420/abeafb·Zbl 1464.62239号
[11] Moral，P.Del，Doucet，A.和Jasra，A.，《序贯蒙特卡罗采样器》，J.R.Stat.Soc.Ser。B统计方法。，68（2006），第411-436页，doi:10.1111/j.1467-9868.2006.00553.x·Zbl 1105.62034号
[12] Der Kiureghian，A.和Ke，J.-B.，结构可靠性中的随机有限元方法，Probab。工程机械。，3（1988），第83-91页，doi:10.1016/0266-8920（88）90019-7。
[13] Doucet，A.、Smith，A.、de Freitas，N.和Gordon，N.，《实践中的序贯蒙特卡罗方法》，Springer，纽约，2001年·Zbl 0967.00022号
[14] Elvira，V.、Martino，L.、Luengo，D.和Bugallo，M.F.，《蒙特卡罗人口中的新型加权和重采样方案》，第二十六届GRETSI学术讨论会，法国胡安列斯宾斯，2017年9月，https://hal.archives-ouvertes.fr/hal-01684862。
[15] Engel，M.、Kanjilal，O.、Papaioannou，I.和Straub，D.，基于交叉熵重要性抽样的贝叶斯更新和边际似然估计，J.Compute。物理。，473（2023），111746，doi:10.1016/j.jcp.2022.111746·兹伯利07625415
[16] Flath，H.P.，Wilcox，L.C.，Akçelik，V.，Hill，J.，van Bloemen Waanders，B.，and Ghattas，O.，基于低秩部分Hessian近似的大规模线性反问题中贝叶斯不确定性量化的快速算法，SIAM J.Sci。计算。，33（2011），第407-432页，doi:10.1137/090780717·Zbl 1229.65174号
[17] Gelman，A.、Carlin，J.、Stern，H.、Dunson，D.、Vehtari，A.和Rubin，D.，《贝叶斯数据分析》，第三版，Taylor&Francis，伦敦，2013年。
[18] Gelman，A.和Yao，Y.，《贝叶斯统计中的洞》，J.Phys。G、 48（2020），014002，doi:10.1088/1361-6471/abc3a5。
[19] Geweke，J.，《使用蒙特卡罗积分的计量经济学模型中的贝叶斯推断》，《计量经济学》，57（1989），第1317-1339页·兹比尔0683.62068
[20] Geyer，S.、Papaioannou，I.和Straub，D.，使用重访高斯密度的基于交叉熵的重要性抽样，结构。安全。，76（2019），第15-27页。
[21] Ghanem，R.G.和Spanos，P.D.，可靠性分析的谱随机有限元公式，J.工程力学。，117（1991），第2351-2372页。
[22] Gilks，W.、Richardson，S.和Spiegelhalter，D.，《马尔可夫链蒙特卡罗实践》，Taylor&Francis，伦敦，1995年。
[23] Gittens，A.和Tropp，J.A.，随机矩阵和所有特征值的尾界，预印本，arXiv:1104.45132011。
[24] Jasra，A.、Stephens，D.A.、Doucet，A.和Tsagarakis，T.，《通过自适应序贯蒙特卡罗对Lévy驱动的随机波动率模型的推断》，Scand。《统计杂志》，38（2011），第1-22页·Zbl 1246.91149号
[25] Jaynes，E.，《关于最大熵方法的基本原理》，Proc。IEEE，70（1982），第939-952页，doi:10.1109/PROC.1982.12425。
[26] Jeffreys，H.，《概率论》，第三版，牛津大学出版社，牛津，1961年·Zbl 0116.34904号
[27] Jiang，S.-H.，Papaioannou，I.，and Straub，D.，利用现场测量对空间变化土壤中边坡可靠性的贝叶斯更新，工程地质学。，239（2018），第310-320页。
[28] Johnson，C.，《用有限元法求解偏微分方程》，多佛，纽约，2012年。
[29] Kaipio，J.和Somersalo，E.，《统计和计算逆问题》，Springer，纽约，2005年，doi:10.1007/b138659·Zbl 1068.65022号
[30] Katafygiotis，L.和Zuev，K.，解决高维可靠性问题挑战的几何见解，Probab。工程机械。，23（2008），第208-218页。
[31] Koutsourelakis，P.，识别空间变量模型参数的多分辨率、非参数贝叶斯框架，J.Compute。物理。，228（2009），第6184-6211页，https://doi.org/j.jcp.2009.05.016。 ·Zbl 1190.62211号
[32] Kurtz，N.和Song，J.，使用高斯混合的基于交叉熵的自适应重要性采样，结构。安全。，42（2013），第35-44页。
[33] Latz，J.、Papaioannou，I.和Ullmann，E.，贝叶斯反问题的多级序贯蒙特卡罗，J.Compute。物理。，368（2018），第154-178页，doi:10.1016/j.jcp.2018.04.014·Zbl 1392.65012号
[34] Liu，P.和Liu，K.，有限元可靠性分析中随机场网格的选择，J.Energ.Mech。，119（1993），第667-680页，doi:10.1061/（ASCE）0733-9399（1993）119:4（667）。
[35] Liu，P.-L.和Der Kiureghian，A.，具有规定边际和协方差的多元分布模型，Probab。工程机械。，1（1986），第105-112页，doi:10.1016/0266-8920（86）90033-0。
[36] Marzouk，Y.M.和Najm，H.N.，反问题中贝叶斯推理的维数减少和多项式混沌加速，J.Compute。物理。，228（2009），第1862-1902页，doi:10.1016/j.jcp.2008.11.024·Zbl 1161.65308号
[37] 马丁利，J.C.，皮莱，N.S.和斯图亚特，A.M.，《高维随机游走大都会算法的扩散极限》，《应用年鉴》。概率。，22（2012），第881-930页，doi:10.1214/10-AAP754·Zbl 1254.60081号
[38] Neal，R.M.，退火重要性抽样，统计计算。，11（2001），第125-139页，doi:10.1023/A:1008923215028。
[39] Neal，R.M.，《使用哈密顿动力学的MCMC》，载于《马尔可夫链蒙特卡罗手册》，查普曼和霍尔/CRC，佛罗里达州博卡拉顿，2010年，第113-162页·Zbl 1229.65018号
[40] Nelsen，R.B.，《Copulas简介》，施普林格出版社，纽约，2010年。
[41] Owen，A.B.，《蒙特卡罗理论、方法和实例》，2013年。
[42] O'Hagan，A.，《专家知识启发：主观但科学》，Amer。统计人员。，73（2019），第69-81页，doi:10.1080/00031305.2018.1518265·Zbl 07588187号
[43] Papaioannou，I.、Betz，W.、Zwirglmaier，K.和Straub，D.，子集模拟的MCMC算法，Probab。工程机械。，41（2015），第89-103页。
[44] Papaioannou，I.、Geyer，S.和Straub，D.，使用灵活混合模型改进基于交叉熵的重要性抽样，Reliab。工程系统。安全。，191 (2019), 106564.
[45] Press，W.H.、Vetterling，W.T.、Teukolsky，S.A.和Flannery，B.P.，《数值配方》，第818卷，剑桥大学出版社，剑桥，1986年·Zbl 0587.65003号
[46] Robert，C.，《贝叶斯选择：从决策理论基础到计算实现》，Springer Science&Business Media，纽约，2007年·Zbl 1129.62003号
[47] Roberts，G.O.和Rosenthal，J.S.，各种Metropolis-Hastings算法的最佳缩放，统计科学。，16（2001），第351-367页，doi:10.1214/ss/1015346320·Zbl 1127.65305号
[48] Rosenblatt，M.，《关于多元变换的评论》，《数学年鉴》。《统计》，第23卷（1952年），第470-472页·Zbl 0047.13104号
[49] Rubinstein，R.Y.，《具有罕见事件的计算机模拟模型优化》，欧洲期刊Oper。Res.，99（1997），第89-112页·Zbl 0923.90051号
[50] Rubinstein，R.Y.和Glynn，P.W.，如何处理蒙特卡洛模拟中似然比的维数诅咒，Stoch。《模型》，25（2009），第547-568页，doi:10.1080/15326340903291248·Zbl 1181.60076号
[51] Rubinstein，R.Y.和Kroese，D.P.，《模拟与蒙特卡罗方法》，第三版，纽约斯普林格出版社，2017年。
[52] Spantini，A.、Solonen，A.、Cui，T.、Martin，J.、Tenorio，L.和Marzouk，Y.，贝叶斯线性逆问题的最优低阶近似，SIAM J.Sci。计算。，37（2015），第A2451-A2487页，doi:10.1137/140977308·Zbl 1325.62060号
[53] Straub，D.和Papaioannou，I.，用结构可靠性方法进行贝叶斯更新，J.工程机械。，141（2015），doi:10.1061/（ASCE）EM.1943-7889.0000839。
[54] Straub，D.、Papaioannou，I.和Betz，W.，《罕见事件的贝叶斯分析》，J.Compute。物理。，314（2016），第538-556页·Zbl 1349.62083号
[55] Stuart，A.M.，《逆向问题：贝叶斯观点》，《数值学报》。，19（2010），第451-559页，doi:10.1017/S0962492910000061·Zbl 1242.65142号
[56] Torre，E.，Marelli，S.，Embrechts，P.和Sudret，B.，使用vine Copula在复杂输入依赖性下进行数据驱动的不确定性量化的通用框架，Probab。工程机械。，55（2019），第1-16页，doi:10.1016/j.probengmech.2018.08.001。
[57] Uribe，F.、Papaioannou，I.、Betz，W.和Straub，D.，用Karhunen-Loève展开表示的随机场的贝叶斯推断，计算。方法应用。机械。工程，358（2020），112632，doi:10.1016/j.cma.2019.112632·Zbl 1441.62080号
[58] Uribe，F.、Papaioannou，I.、Marzouk，Y.M.和Straub，D.，《基于交叉因素的重要性抽样与罕见事件模拟的失效信息降维》，SIAM/ASA J.不确定性。数量。，9（2021），第818-847页，doi:10.1137/20M1344585·Zbl 1472.62023号
[59] Wang，Z.和Song，J.，使用Von Mises-Fisher混合进行高维可靠性分析的基于交叉熵的自适应重要性抽样，结构。安全。，59（2016），第42-52页。
[60] Zahm，O.，Cui，T.，Law，K.，Spantini，A.，and Marzouk，Y.，非线性贝叶斯反问题的证明降维，数学。公司。，91（2022），第1789-1835页，doi:10.1090/MCOM/3737·Zbl 07541892号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。