保尔·克里斯蒂安·比尔克纳;伊尔贾·克罗克;谢尔盖·奥拉迪什金;沃尔夫冈·诺瓦克 一种具有系数联合先验和全局项选择的完全贝叶斯稀疏多项式混沌展开方法。 （英语） Zbl 07696975号 J.计算。物理学。 488，文章ID 112210，25 p.（2023）. 摘要：多项式混沌展开（PCE）是一种广泛用于不确定性量化和机器学习的通用工具，但其成功应用在很大程度上取决于基于PCE的响应曲面的准确性和可靠性。高精度通常需要高多项式次数，需要许多训练点，特别是在通过维数诅咒的高维问题中。与传统的PCE方法相比，所谓的稀疏PCE概念使用更少的基多项式选择，可以非常有效地克服维数灾难，但必须特别注意其选择训练点的策略。此外，近似误差类似于大多数现有基于PCE的方法无法估计的不确定性。在本研究中，我们开发并评估了一种完全贝叶斯方法，通过联合收缩先验和马尔可夫链蒙特卡罗建立PCE表示。所提出的贝叶斯PCE模型直接旨在解决上述两个挑战：实现稀疏PCE表示和估计PCE本身的不确定性。通过联合收缩先验的嵌入式贝叶斯正则化允许对给定训练点使用更高的多项式次数，因为它能够处理未确定的情况，其中考虑的PCE系数的数量可能远大于可用训练点的数量。我们还探索了多变量选择方法，以基于已建立的贝叶斯表示构造稀疏PCE展开式，同时在给定可用训练数据的情况下全局选择最有意义的正交多项式。我们在几个基准上演示了贝叶斯PCE和相应的稀疏性诱导方法的优点。 引用于4文件 MSC公司： 65立方厘米 概率方法，随机微分方程 62Jxx型 线性推断、回归 60华氏度 随机分析 关键词：多项式混沌展开;代理建模;贝叶斯推断;不确定性量化;收缩先期;变量选择 软件：坚果;贝叶斯雷;业务风险管理系统;个人电脑;加迈尔;斯坦;贝叶斯DA;运营质量 PDF格式BibTeX公司 XML格式引用 \textit{P.-C.Bürkner}等人，《计算杂志》。物理学。488，文章ID 112210，25 p.（2023；Zbl 07696975） 全文： 内政部 arXiv公司 参考文献： [1] J.E.Aguilar，P.-C.Bürkner，贝叶斯线性多层模型的直观联合先验：R2D2M2之前，arXiv预印本2022。 [2] 阿菲尔德，R。；Belkouchi，B。；Montomoli，F.，SAMBA：基于动量的任意多项式混沌的稀疏近似，J.Compute。物理。，320, 1-16 (2016) ·Zbl 1349.65417号 [3] Akhiezer，N.，《经典力矩问题》（1965），哈夫纳出版公司：纽约哈夫纳出版社·Zbl 0135.33803号 [4] Askey，R。；Wilson，J.，《推广雅可比多项式的一些基本超几何多项式》，《美国数学学会回忆录》（1985），AMS:AMS Providence·Zbl 0572.33012号 [5] 贝克斯，F。；Heredia，A。；Noack，M。；诺瓦克，W。；Wieprecht，S。；Oladyshkin，S.，大型延时泥沙输移模型Water Resour的贝叶斯校准和验证。第56、7号决议（2020年） [6] M.Betancourt，《哈密尔顿蒙特卡罗概念介绍》，arXiv预印本，2017年。 [7] Bhadra，A。；达塔，J。；新几内亚波尔森。；Willard，B.，全球局部收缩先验的默认贝叶斯分析，Biometrika，103，4，955-969（2016）·Zbl 1506.62343号 [8] 布拉特曼，G。；Sudret，B.，稀疏多项式混沌展开和使用回归方法的自适应随机有限元，C.R.，MéC。，336, 6, 518-523 (2008) ·Zbl 1138.74046号 [9] Bürkner，P.-C.，brms:R包，用于使用Stan，J.Stat.Softw的Bayesian多级模型。，80, 1, 1-28 (2017) [10] Bürkner，P.-C.，《使用R包进行高级贝叶斯多级建模》，R J.，10，1，395-411（2018） [11] 卡梅隆·R·H。；Martin，W.T.，《Fourier-Hermite泛函级数中非线性泛函的正交展开》，《数学年鉴》。，48, 385-392 (1947) ·Zbl 0029.14302号 [12] 卡彭特，B。；盖尔曼，A。；霍夫曼，M。；Lee，D。；古德里奇，B。；贝当古，M。；布鲁贝克，医学硕士。；郭杰。；李，P。；Ridell，A.，Stan:概率编程语言，J.Stat.Softw。，76, 1, 1-32 (2017) [13] A.Catalina、P.Bürkner、A.Vehtari，潜在空间投影预测推断，arXiv预印本2021。 [14] 卡塔琳娜，A。；比尔克纳，P.-C。；Vehtari，A.，广义线性和可加多级模型的投影预测推断，（人工智能与统计（AISTATS）会议记录（2022年）） [15] Cheng，K。；卢，Z。；肖，S。；Oladyshkin，S。；Nowak，W.，《不确定性量化用混合协方差函数的稀疏高斯过程模型》，国际期刊《不确定性》。量化。(2021) [16] 康拉德，P.R。；Marzouk，Y.M.，自适应Smolyak伪谱近似，SIAM J.Sci。计算。，35、6、A2643-A2670（2013）·Zbl 1294.41004号 [17] 德马尔基，S。；沙巴克，R。；Wendland，H.，径向基函数插值的近最优数据相关点位置，高级计算。数学。，23, 3, 317-330 (2005) ·Zbl 1070.65008号 [18] Ernst，O.G。；马格勒，A。；Starkloff，H.-J。；Ullmann，E.，关于广义多项式混沌展开式的收敛性，ESAIM:Math。模型。数字。分析。，46, 2, 317-339 (2012) ·兹比尔1273.65012 [19] Fagiano，L。；Khammash，M.，通过正则多项式混沌展开的非线性随机模型预测控制，（IEEE决策与控制会议（CDC），第51卷（2012）），142-147 [20] Favard，J.，《切比雪夫多元指数》（1935），CR学术科学：CR学术科学巴黎200 [21] 加布里，J。；D.辛普森。；Vehtari，A。；贝当古，M。；Gelman，A.，《贝叶斯工作流可视化》，J.R.Stat.Soc.，Ser。A、 Stat.Soc.，182，2389-402（2019年） [22] Gautschi，W.，《正交多项式：计算与逼近》，《数值数学与科学计算》（2004），牛津大学出版社：牛津大学出版社，纽约·Zbl 1130.42300号 [23] 盖尔曼，A。；Carlin，J.B。；斯特恩，H.S。；邓森，D.B。；Vehtari，A。；Rubin，D.B.，贝叶斯数据分析（2013），查普曼和霍尔/CRC：查普曼与霍尔/CRC伦敦 [24] Ghanem，R.G。；Spanos，P.D.，《随机有限元：谱方法》（1991），Springer:Springer纽约·Zbl 0722.73080号 [25] Hadigol，M。；Doostan，A.，《最小二乘多项式混沌展开：抽样策略综述》，计算。方法应用。机械。工程师，332382-407（2018）·Zbl 1440.65007号 [26] 医学博士霍夫曼。；Gelman，A.，No-U-Turn采样器：在哈密顿蒙特卡罗，J.Mach中自适应设置路径长度。学习。第15号、第1号、第1593-1623号决议（2014年）·Zbl 1319.60150号 [27] Ishigami，T。；Homma，T.，《计算机模型不确定性分析中的一种重要量化技术》（Proceedings.First International Symposium on Understance Modeling and analysis，1990），398-403 [28] 詹姆斯·G。；威滕博士。；哈斯蒂，T。；Tibshirani，R.，《统计学习导论》，第112卷（2013年），施普林格出版社·Zbl 1281.62147号 [29] Karlin，S.，《总体积极性》，第一卷（1968年），斯坦福大学出版社·Zbl 0219.47030号 [30] Keese，A。；Matthies，H.G.，《稀疏求积作为随机有限元技术蒙特卡罗的替代方法》，Proc。申请。数学。机械。，3, 493-494 (2003) ·Zbl 1354.65013号 [31] 科佩尔，M。；Franzelin，F。；科洛克，I。；Oladyshkin，S。；Santin，G。；Wittwar，D。；Barth，A。；Haasdonk，B。；诺瓦克，W。；Pflüger，D。；Rohde，C.，二氧化碳储存基准情景的数据驱动不确定性量化方法的比较，Comput。地质科学。(2019) ·Zbl 1414.76058号 [32] 科佩尔，M。；Franzelin，F。；科洛克，I。；Oladyshkin，S。；Wittwar，D。；Santin，G。；Barth，A。；Haasdonk，B。；诺瓦克，W。；Pflüger，D。；Rohde，C.，二氧化碳储存中数据驱动不确定性量化基准的数据集和可执行文件，（Zenodo（2017）） [33] 科佩尔，M。；科洛克，I。；Rohde，C.，控制非均匀多孔介质中两相流的双曲椭圆系统的侵入性不确定性量化，计算。地质科学。，21, 4, 807-832 (2017) ·Zbl 1396.76058号 [34] 库加诺夫，A。；Petrova，G.，双曲守恒律系统三角形网格上的中心逆风格式，Numer。方法部分差异。Equ.、。，21, 3, 536-552 (2005) ·Zbl 1071.65122号 [35] 李，H。；张，D.，多孔介质中流动的概率配置方法：与其他随机方法的比较，水资源。第43、9、1-13号决议（2007年） [36] 马蒂斯·H·G。；Keese，A.，线性和非线性椭圆随机偏微分方程的Galerkin方法，计算。方法应用。机械。工程，194，12-16，1295-1331（2005）·Zbl 1088.65002号 [37] F.Mohammadi、E.Eggenweiler、B.Flemisch、S.Oladyshkin、I.Rybak、M.Schneider、K.Weishaupt，耦合自由流和多孔介质流的不确定感知验证基准，arXiv预印本2022。 [38] Moore，E.H.，关于一般代数矩阵的倒数，Bull。美国数学。《社会学杂志》，26，394-395（1920） [39] 穆拉，R。；Ghisu，T。；Shahpar，S.，基于最小二乘近似的多项式混沌展开，用于航空领域的不确定性量化和稳健优化，（AIAA航空论坛（2020）） [40] Oladyshkin，S.，aPC Matlab工具箱：数据驱动的任意多项式混沌（2022） [41] Oladyshkin，S。；等级，H。；赫尔米格，R。；Nowak，W.，地质构造中CO_2储存稳健设计和概率风险评估的综合方法，计算。地质科学。，15, 3, 565-577 (2011) [42] Oladyshkin，S。；等级，H。；Nowak，W.，通过Bootstrap滤波结合数据驱动的多项式混沌展开进行贝叶斯更新：地质构造中二氧化碳储存历史匹配的方法和应用，Comput。地质科学。，17, 4, 671-687 (2013) ·Zbl 1382.86022号 [43] Oladyshkin，S。；De Barros，F。；Nowak，W.，《全球敏感性分析：一个灵活有效的框架，以随机水文地质为例》，《高级水资源》。，37, 10-22 (2012) [44] Oladyshkin，S。；Nowak，W.，使用任意多项式混沌展开的数据驱动不确定性量化，Reliab。工程系统。安全。，106, 179-190 (2012) [45] Oladyshkin，S。；Nowak，W.，不完整的统计信息限制了高阶多项式混沌展开式的效用，Reliab。工程系统。安全。，169, 137-148 (2018) [46] Oladyshkin，S。；施罗德，P。；等级，H。；Nowak，W.，基于混沌扩展的Bootstrap过滤器，用于校准CO2注入模型，能源程序。，40, 398-407 (2013) [47] 潘，Q。；曲，X。；刘，L。；Dias，D.，《使用贝叶斯回归进行岩土可靠性估算的序列稀疏多项式混沌展开》，国际期刊Numer。分析。方法地质力学。，44, 6, 874-889 (2020) [48] 帕皮，F。；Balduzzi，F。；费拉拉，G。；Bianchini，A.，降雨引起的侵蚀对多兆瓦风力涡轮机年发电量和性能影响的不确定性量化，更新。能源，165701-715（2021） [49] F.Pavone，J.Piironen，P.-C.Bürkner，A.Vehtari，《变量选择中使用参考模型》，arXiv预印本2020。 [50] Penrose，R.，《关于线性矩阵方程的最佳近似解》，《剑桥哲学学会数学学报》，第52卷，17-19（1956），剑桥大学出版社·Zbl 0070.1251 [51] Piironen，J.等人。；Paasiniemi，M。；Vehtari，A.，《高维问题中的投影推理：预测和特征选择》，电子。J.Stat.，14，1，2155-2197（2020），出版商：数理统计研究所和伯努利学会·Zbl 1476.62058号 [52] Piironen，J。；Vehtari，A.，马蹄铁和其他收缩先验中的稀疏信息和规则化，Electron。J.Stat.，11，2，5018-5051（2017）·Zbl 1459.62141号 [53] 波埃特，G。；Després，B。；Lucor，D.，守恒定律系统的不确定性量化，J.Compute。物理。，228, 7, 2443-2467 (2009) ·Zbl 1161.65309号 [54] 新几内亚波尔森。；Scott，J.G.，《全球收缩，局部行动：稀疏贝叶斯正则化和预测》（Bernardo，J.M.；Bayarri，M.J.；Berger，J.O.；Dawid，A.P.；Heckerman，D.；Smith，A.F.M.；West，M.，Bayesian Statistics 9（2011），牛津大学出版社），501-538 [55] Red-Horse，J。；Benjamin，A.，《有限信息下不确定性量化的概率方法》，Reliab。工程系统。安全。，85, 1, 183-190 (2004) [56] Riutort-Mayol，G。；比尔克纳，P.-C。；Andersen，M.R。；索林，A。；Vehtari，A.，概率规划的实用希尔伯特空间近似贝叶斯-高斯过程，统计计算。，33、1、17（2022年12月）·Zbl 1502.62024号 [57] Runge，C.，《内插法》，Z.Angew，zwischenäquidistanten Ordinaten。数学。物理。，46, 224-243, 20 (1901) [58] Scheurer，S。；谢弗·罗德里格斯·席尔瓦，A。；Mohammadi，F。；霍梅尔，J。；Oladyshkin，S。；弗莱米什，B。；Nowak，W.，《计算昂贵模型的基于替代的贝叶斯比较：微生物诱导方解石沉淀的应用》，计算。地质科学。，25, 6, 1899-1917 (2021) ·兹比尔1477.86031 [59] 邵，Q。；Younes，A。；法赫斯，M。；Mara，T.A.，全局灵敏度分析的贝叶斯稀疏多项式混沌展开，计算。方法应用。机械。工程，318，474-496（2017）·Zbl 1439.62088号 [60] 肖哈特，J。；Tamarkin，J.，《力矩问题》，《数学调查》第1期，1950（1943），美国数学学会：美国数学学会纽约·Zbl 0063.06973号 [61] Siebert，W.M.，《关于矩矩阵的行列式》，《Ann.Stat.》，17，2，711-721（1989）·Zbl 0672.62062号 [62] Sobol’，I.M.，关于立方体中点的分布和积分的近似计算。维奇岛。Mat.Mat.Fiz.，材料Fiz。，7, 4, 784-802 (1967) ·Zbl 0185.41103号 [63] Sobol’，I.M.，关于非线性数学模型的灵敏度估计，Mat.Model。2, 1, 112-118 (1990) ·Zbl 0974.00506号 [64] Sobol’，I.M.，《关于高维模型表示的定理和示例》，Reliab。工程系统。安全。，79、2、187-193（2003），出版商：Elsevier [65] Stan建模语言：用户指南和参考手册（2022） [66] Stieltjes，T.J.，Quelques recherches sur la theorie des quadratures dites mécaniques，《科学年鉴》。埃及。标准。上级。，1, 409-426 (1884) [67] Sudret，B.，使用多项式混沌展开的全局灵敏度分析，Reliab。工程系统。安全。，93, 7, 964-979 (2008) [68] Sullivan，T.J.，《不确定性量化导论》，《应用数学文本》，第63卷（2015年），施普林格：施普林格商会·Zbl 1336.60002号 [69] Tarakanov，A。；Elsheikh，A.H.，基于回归的稀疏多项式混沌用于地下水流模型的不确定性量化，J.Compute。物理。，399 (2019) ·Zbl 1453.76208号 [70] Tikhonov，A.N。；Arsenin，V.Y.，《不恰当问题的解决方案》，数学脚本系列（1977年），V.H.Winston&Sons：V.H Winston和Sons Washington，D.C.，John Wiley&Sons，New York Toronto，Ont.-London，俄文翻译，翻译编辑Fritz John的前言·Zbl 0354.65028号 [71] Tipping，M.E.，稀疏贝叶斯学习和相关向量机，J.Mach。学习。决议，1211-244（2001年6月）·Zbl 0997.68109号 [72] Tran，M.-N。；诺特·D·J。；Leng，C.，预测拉索，统计计算。，22, 5, 1069-1084 (2012) ·Zbl 1252.62075号 [73] Van Erp，S。；Oberski，D.L。；Mulder，J.，贝叶斯惩罚回归的收缩先验，J.数学。心理医生。，89, 31-50 (2019) ·Zbl 1431.62564号 [74] Vehtari，A。；盖尔曼，A。；D.辛普森。；卡彭特，B。；Bürkner，P.-C.，《秩正规化、折叠和局部化：评估MCMC收敛性的改进（R}）》，贝叶斯分析。，16, 2, 667-718 (2021) ·Zbl 07637221号 [75] 维拉德森，J。；Michelsen，M.L.，用多项式逼近求解微分方程模型（1978），Prentice-Hall·Zbl 0464.34001号 [76] Wendland，H.，《分散数据近似》，第17卷（2004），剑桥大学出版社 [77] Wiener，N.，《齐次混沌》，美国数学杂志。，60, 4, 897-936 (1938) [78] 维茨，D。；Haasdonk，B.，向量核正交贪婪算法，Dolom。研究注释约6（2013年） [79] Witteveen，J.A。；Bijl，H.，使用Gram-Schmidt多项式混沌建模任意不确定性，（第44届AIAA航空航天科学会议和展览（2006）） [80] Wood，S.N.，《广义加性模型：R简介》（2017），查普曼和霍尔/CRC：查普曼与霍尔/CRC伦敦·Zbl 1368.62004号 [81] 秀，D。；Karniadakis，G.E.，随机微分方程的Wiener-Askey多项式混沌，SIAM J.Sci。计算。，24, 2, 619-644 (2002) ·Zbl 1014.65004号 [82] 秀，D。；Karniadakis，G.E.，通过广义多项式混沌建模流动模拟中的不确定性，J.Compute。物理。，187, 137-167 (2003) ·Zbl 1047.76111号 [83] 姚，Y。；Vehtari，A.公司。；D.辛普森。；Gelman，A.，是的，但它起作用了吗评估变分推理，（机器学习国际会议（2018）），5581-5590 [84] 曾磊。；Shi，L。；张，D。；Wu，L.，基于稀疏网格的贝叶斯污染源识别方法，Adv.Water Resour。，37, 1-9 (2012) [85] 曾S。；段，X。；陈，J。；Yan，L.，带熵正则化的优化稀疏多项式混沌展开，Adv.Aerodyn。，4, 1 (2022) [86] Zhang，Y。；刘，Y。；Pau，G。；Oladyshkin，S。；Finsterle，S.，评估多个降阶模型以增强全局敏感性分析的置信度，Int.J.Greenh。天然气控制，49，217-226（2016） [87] Zhang，Y。；诺顿，B.P。；邦德尔·H·D。；Reich，B.J.，《使用模型拟合先验的贝叶斯回归：R2-D2收缩先验》，J.Am.Stat.Assoc.（2020）·Zbl 1507.62266号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。