Tsilifis、Panagiotis；艾森·帕皮奥安诺；丹尼尔·斯特劳布；法比奥·诺比尔 使用变分相关向量机的稀疏多项式混沌展开。 （英语） Zbl 1437.62114号 J.计算。物理。 416，文章ID 109498，19 p.（2020）. 摘要：多项式混沌建模的非侵入方法的挑战在于在有限数量的模型模拟下的计算效率和准确性。这些挑战可以通过只保留最重要的基项来增强级数表示中的稀疏性来解决。在这项工作中，我们提出了一种新的稀疏贝叶斯学习技术，用于获得稀疏多项式混沌展开式，该方法基于相关向量机模型，并使用变分推理进行训练。该方法在使用相对较少的数据点的高维数据驱动设置中显示出巨大的潜力，并实现了用户控制的稀疏级别，与其他方法（如压缩传感）相比具有可比性。该方法通过两个数值例子进行了说明，一个是为了验证目的而探索的综合响应函数，另一个是具有随机杨氏模量和随机载荷的低碳钢板，该低碳钢板由38个输入随机变量的随机有限元建模。 引用于8文件 MSC公司： 2015年1月62日 贝叶斯推断 74K20型 盘子 关键词：多项式混沌；稀疏表示；变分推理；相关向量机；Kullback-Leibler散度；层次贝叶斯模型 软件：PRMLT公司；PMTK公司；Gms小时 PDF格式BibTeX公司 XML格式引用 \textit{P.Tsilifis}等人，《计算杂志》。物理。416，文章ID 109498，19 p.（2020；Zbl 1437.62114） 全文： 内政部 arXiv公司 参考文献： [1] 阿德科克，B。；Brugiapaglia，S。；Webster，C.G.，高维函数多项式近似的压缩传感方法，（Compressed sensing and its Applications（2017），Birkhäuser:Birkháuser Cham），93-124 [2] 阿纳斯特，M。；加尼姆，R。；Soize，C.，混沌展开系数的贝叶斯后验识别，J.Compute。物理。，229, 3134-3154 (2010) ·兹比尔1184.62034 [3] Attias，H.，图形模型的变分baysian框架，（神经信息处理系统进展（2000）），209-215 [4] 巴布什卡，I。；Nobile，F。；Tempone，R.，带随机输入数据的椭圆偏微分方程的随机配置方法，SIAM J.Numer。分析。，45, 1005-1034 (2007) ·兹比尔1151.65008 [5] 巴赫迈尔，M。；科恩，A。；DeVore，R。；Migliorati，G.，参数椭圆偏微分方程的稀疏多项式近似。第二部分：对数正态系数，ESAIM数学。模型。数字。分析。，51, 341-363 (2017) ·Zbl 1366.41005号 [6] 巴赫迈尔，M。；科恩，A。；Migliorati，G.，参数椭圆偏微分方程的稀疏多项式近似。第一部分：仿射系数，ESAIM数学。模型。数字。分析。，51, 321-339 (2017) ·Zbl 1365.41003号 [7] Baraniuk，R.G.，压缩传感，IEEE信号处理。Mag.，24（2007） [8] 贝克，J。；Nobile，F。；Tamellini，L。；Tempone，R.，一类随机系数偏微分方程拟最优随机Galerkin方法的收敛性，计算。数学。申请。，67, 732-751 (2014) ·Zbl 1350.65003号 [9] Bertsekas，D.P.，非线性规划（1999），雅典娜科学：雅典娜科技贝尔蒙特·Zbl 1015.90077号 [10] Berveiller，M。；苏德雷特，B。；Lemaire，M.，《随机有限元：回归的非侵入性方法》，《欧洲计算机杂志》。机械。，15, 1-3, 81-92 (2006) ·Zbl 1325.74171号 [11] Bilinis，I。；Zabaras，N.，《多输出局部高斯过程回归：应用于不确定性量化》，J.Compute。物理。，2315718-5746（2012年）·Zbl 1277.60066号 [12] Bilinis，I。；Zabaras，N.，《不确定性量化的多维自适应相关向量机》，SIAM J.Sci。计算。，34，B881-B908（2012）·Zbl 1257.62024号 [13] Bishop，C.M.，模式识别和机器学习（2006），Springer:Springer New York·Zbl 1107.68072号 [14] Bishop，C.M。；Tipping，M.E.，变分相关向量机，（第十六届人工智能不确定性会议论文集（2000年6月），Morgan Kaufmann Publishers Inc.），46-53 [15] 布拉特曼，G。；Sudret，B.，基于最小角度回归的自适应稀疏多项式混沌展开，J.Compute。物理。，230, 2345-2367 (2011) ·Zbl 1210.65019号 [16] 布莱，D.M。；Jordan，M.I.，Dirichlet过程混合物的变分推断，贝叶斯分析。，121-143（2006年）·兹比尔1331.62259 [17] Boser，B.E。；盖恩，I.M。；Vapnik，V.N.，最佳边缘分类器的训练算法，（第五届计算学习理论年度研讨会论文集（1992年7月），ACM），144-152 [18] 卡梅隆，R。；Martin，W.，Fourier-Hermite泛函级数中非线性泛函的正交展开，Ann.Math。，48, 385-392 (1947) ·Zbl 0029.14302号 [19] Chaspari，T。；齐亚塔斯，A。；斯坦因，L.I。；Cermak，S.A。；Narayanan，S.S.，《用知识驱动词典对皮肤电活动进行稀疏表示》，IEEE Trans。生物识别。工程，62960-971（2014） [20] Chaspari，T。；齐亚塔斯，A。；齐利维斯，P。；Narayanan，S.S.，稀疏贝叶斯近似参数字典的马尔可夫链蒙特卡罗推理，IEEE Trans。信号处理。，64, 3077-3092 (2016) ·兹比尔1414.94111 [21] 陈，B。；佩斯利，J。；Carin，L.，《具有β过程先验的稀疏线性回归》（2010年IEEE声学、语音和信号处理国际会议（2010年3月）），1234-1237 [22] 陈，P。；北卡罗来纳州扎巴拉斯。；Bilinis，I.，《使用高斯过程和变分贝叶斯推理的无限混合的不确定性传播》，J.Compute。物理。，284, 291-333 (2015) ·Zbl 1351.76277号 [23] 组合，P.L。；Pesquet，J.C.，非光滑凸变分信号恢复的Douglas-Rachford分裂方法，IEEE J.Sel。顶部。信号处理。，1, 564-574 (2007) [24] 科尔特斯，C。；Vapnik，V.，支持向量网络，马赫。学习。，20, 273-297 (1995) ·Zbl 0831.68098号 [25] 北卡罗来纳州克里斯蒂亚尼尼。；Shawe-Taylor，J.，《支持向量机和其他基于核的学习方法简介》（2000），剑桥大学出版社 [26] Debusschere，B.J。；Najm，H.N。；佩贝，P.P。；克尼奥，O.M。；Ghanem，R.G。；Le Maêtre，O.P.，随机过程多项式混沌表示使用中的数值挑战，SIAM J.Sci。计算。，26, 698-719 (2004) ·Zbl 1072.60042号 [27] 笛卡尔，C。；加尼姆，R。；Soize，C.，实验数据中随机混沌表示的最大似然估计，国际数字杂志。方法工程，66，978-1001（2006）·Zbl 1110.74826号 [28] Doostan，A。；Iacarino，G.，高维随机输入偏微分方程的最小二乘近似，J.Compute。物理。，228, 4332-4345 (2009) ·Zbl 1167.65322号 [29] 道格拉斯，J。；Rachford，H.H.，关于两个和三个空间变量中热传导问题的数值解，Trans。美国数学。Soc.，82，421-439（1956年）·Zbl 0070.35401号 [30] 弗兰克，I.M。；Koutsourelakis，P.S.，《非线性反问题的稀疏变分贝叶斯近似：在非线性弹性成像中的应用》，计算。方法应用。机械。工程，299215-244（2016）·Zbl 1425.65132号 [31] Gautschi，W.，《正交多项式》（2004），牛津大学出版社·Zbl 1130.42300号 [32] Geuzaine，C。；Remacle，J.F.，Gmsh:一种具有内置预处理和后处理设施的三维有限元网格生成器，（第二次数值计算网格生成研讨会论文集，四面体II（2007）） [33] Ghanem，R.，用谱随机有限元法研究热传导问题对随机数据的高阶敏感性，ASME J.heat Transf。，121, 290-299 (1999) [34] 加尼姆，R。；Doostan，R.，《从实验数据表征随机系统参数：贝叶斯推理方法》，J.Compute。物理。，217, 63-81 (2006) ·Zbl 1102.65004号 [35] 加尼姆，R。；Spanos，P.，《随机有限元：谱方法》（1991），Springer-Verlag·Zbl 0722.73080号 [36] Ghauch，Z.，利用自适应多项式混沌元模型进行实时贝叶斯更新，ASME J.验证。验证。不确定。量化。(2020) [37] J.汉普顿。；Doostan，A.，多项式混沌展开的压缩采样：收敛分析和采样策略，J.Compute。物理。，280363-386（2015年）·Zbl 1349.94110号 [38] 医学博士霍夫曼。；布莱，D.M。；王，C。；佩斯利，J.，《随机变分推断》，J.马赫。学习。第14号决议，1303-1347（2013）·Zbl 1317.68163号 [39] 欢，X。；萨夫塔，C。；Sargsyan，K。；叶片，Z.P。；拉卡泽，G。；Oefelein，J.C。；Najm，H.N.，稀疏多项式混沌展开的交叉验证和停止采样压缩传感，SIAM/ASA J.不确定性。量化。，907-936（2018）·Zbl 1403.62133号 [40] 贝克，J。；Nobile，F。；Tamellini，L。；Tempone，R.，随机系数偏微分方程的随机谱Galerkin和配置方法：数值比较，（Hesthaven，J。；伦奎斯特，E.，《偏微分方程的谱和高阶方法》。偏微分方程的谱和高阶方法，计算科学与工程讲义，第76卷（2011），施普林格：施普林格-柏林，海德堡）·Zbl 1302.65249号 [41] Jakeman，J.D。；纳拉扬，A。；Zhou，T.，多项式混沌展开的稀疏近似的广义采样和预处理方案，SIAM J.Sci。计算。，39，A1114-A1144（2017）·Zbl 1368.65025号 [42] Janson，S.，《高斯-希尔伯特空间》，第129卷（1997），剑桥大学出版社·Zbl 0887.60009号 [43] 季S。；薛，Y。；Carin，L.，贝叶斯压缩传感，IEEE Trans。信号处理。，56, 2346-2356 (2008) ·Zbl 1390.94231号 [44] Johnson，Claes，《用有限元法求解偏微分方程》（2009），多佛出版社·Zbl 1191.65140号 [45] 约旦医学院。；加赫拉马尼，Z。；Jaakola，T。；Saul，L.，《图形模型变分方法简介》，马赫。学习。，37, 183-233 (1999) ·兹比尔0945.68164 [46] 科勒，D。；弗里德曼，N.，《概率图形模型：原理和技术》（2009），麻省理工学院出版社·Zbl 1183.68483号 [47] Kullback，S。；Leibler，R.A.，《信息与充分性》，《数学年鉴》。《统计》，22，79-86（1951）·Zbl 0042.38403号 [48] 李，L。；席尔瓦，J。；周，M。；Carin，L.，大型数据集的在线贝叶斯字典学习，（2012年IEEE声学、语音和信号处理国际会议（ICASSP）（2012年3月）），2157-2160 [49] 刘培玲；刘国金，有限元可靠性分析中随机场网格的选取，工程机械学报。，119, 4, 667-680 (1993) [50] Murphy，K.P.，《机器学习：概率视角》（2012），麻省理工学院出版社·Zbl 1295.68003号 [51] Nobile，F。；丹蓬，R。；Webster，C.G.，《具有随机输入数据的偏微分方程的稀疏网格随机配置方法》，SIAM J.Numer。分析。，46, 2309-2345 (2008) ·Zbl 1176.65137号 [52] 奥克利，J.E。；O'Hagan，A.，《复杂模型的概率敏感性分析：贝叶斯方法》，J.R.Stat.Soc.，Ser。B、 统计方法。，66, 751-769 (2004) ·Zbl 1046.62027号 [53] 佩斯利，J。；Carin，L.，带beta过程先验的非参数因子分析，（第26届机器学习国际年会论文集（2009年6月）），777-784 [54] Papaioannou，I。；埃里，M。；Straub，D.，《基于PLS的高维PCE高效表示适配》，J.Compute。物理。，387, 186-204 (2019) ·Zbl 1452.65014号 [55] 彭杰。；J.汉普顿。；Doostan，A.，稀疏多项式混沌展开的加权（ell_1）最小化方法，J.Compute。物理。，267, 92-111 (2014) ·Zbl 1349.65198号 [56] 平斯基，F.J。；辛普森，G。；Stuart，A.M。；Weber，H.，无限维概率测度的Kullback-Leibler近似算法，SIAM J.Sci。计算。，37，A2733-A2757（2015）·兹比尔1348.60033 [57] 莱斯，M。；佩迪卡里斯，P。；Karniadakis，G.E.，含时和非线性偏微分方程的数值高斯过程，SIAM J.Sci。计算。，40，A172-A198（2018）·Zbl 1386.65030号 [58] Rauhut，H。；Schwab，C.，高维参数算子方程的压缩传感Petrov-Galerkin近似，数学。计算。，86, 661-700 (2017) ·Zbl 1358.65034号 [59] 里根，M.T。；Najm，H.N。；Ghanem，R.G。；Knio，O.M.，《通过非侵入光谱投影进行反应流模拟的不确定性量化》，库布斯特。《火焰》，132545-555（2003） [60] Rosenblatt，M.，《关于多元变换的评论》，《数学年鉴》。Stat.，23，3，470-472（1952年）·Zbl 0047.13104号 [61] Sargsyan，K。；萨夫塔，C。；Najm，H.N。；Debusschere，B.J。；Ricciuto，D。；Thornton，P.，《通过贝叶斯压缩传感降低复杂模型的维数》，《国际不确定性杂志》。量化。，4 (2014) ·Zbl 1513.65004号 [62] Soize，C。；Ghanem，R.，《具有随机不确定性的物理系统：具有任意概率测度的混沌表示》，SIAM J.Sci。计算。，26, 395-410 (2004) ·Zbl 1075.60084号 [63] Thimmesety，C。；齐利维斯，P。；Ghanem，R.，《不确定性下设计优化的齐次混沌基自适应：油井布置问题的应用》，Artif。智力。工程设计。分析。制造日期：31265-276（2017） [64] Tibshirani，R.，《通过套索进行回归收缩和选择》，J.R.Stat.Soc.Ser。B方法。，58, 267-288 (1996) ·Zbl 0850.62538号 [65] 蒂皮雷迪，R。；Ghanem，R.G.，齐次混沌空间中的基自适应，J.Compute。物理。，259304-317（2014）·Zbl 1349.60058号 [66] M.Tipping，相关向量机，美国专利6633857，微软公司，2003年·Zbl 0997.68109号 [67] Tipping，M.E.，相关向量机，（神经信息处理系统进展（2000）），652-658 [68] Tipping，M.E.，稀疏贝叶斯学习和相关向量机，J.Mach。学习。决议，211-244（2001）·Zbl 0997.68109号 [69] 齐利维斯，P。；Bilinis，I。；Katsounaros，I。；Zabaras，N.，贝叶斯反问题的计算有效变分近似，J.Verificat。有效期。不确定。量化。，第1条，第031004页（2016年） [70] 齐利维斯，P。；布朗宁，W.J。；伍德，T.E。；牛顿，P.K。；Ghanem，R.G.，《细菌生长的随机准化学模型：变分贝叶斯参数更新》，《非线性科学杂志》。，28, 371-393 (2018) ·Zbl 1385.92034号 [71] 齐利维斯，P。；Ghanem，R.G.，《通过基自适应和投影实现随机场的简化维纳混沌表示》，J.Compute。物理。，341, 102-120 (2017) ·Zbl 1378.65038号 [72] 齐利维斯，P。；Ghanem，R.G.，利用测地线上的变分推理和采样对混沌表示进行贝叶斯自适应，Proc。R.Soc.A，数学。物理。工程科学。，474，第20180285条pp.（2018）·Zbl 1407.62087号 [73] 齐利维斯，P。；欢，X。；萨夫塔，C。；Sargsyan，K。；拉卡泽，G。；Oefelein，J.C。；Najm，H.N。；Ghanem，R.G.，多项式混沌展开的压缩传感自适应，J.Compute。物理。，380, 29-47 (2019) ·Zbl 1451.62032号 [74] Tsilifis，P.A.，《Legendre混沌展开的渐变信息基自适应》，J.Verificat。有效期。不确定。量化。，3，第011005条，第（2018）页 [75] Vapnik，V.，《统计学习理论》（1998），威利·兹比尔0935.62007 [76] Wiener，N.，《齐次混沌》，美国数学杂志。，60, 897-936 (1938) ·JFM 64.0887.02号 [77] 威廉姆斯，C.K。；Rasmussen，C.E.，《机器学习的高斯过程》（2006），麻省理工学院出版社：麻省理学院出版社剑桥·Zbl 1177.68165号 [78] Winn，J。；Bishop，C.M.，变体消息传递，J.Mach。学习。第661-694号决议（2005年）·Zbl 1222.68332号 [79] Xiu，D.，参数不确定性分析的有效搭配方法，Commun。计算。物理。，2, 293-309 (2007) ·Zbl 1164.65302号 [80] Xiu，D.，《随机计算的数值方法：谱方法方法》（2010），普林斯顿大学出版社·Zbl 1210.65002号 [81] 秀，D。；Hesthaven，J.S.，随机输入微分方程的高阶配置方法，SIAM J.Sci。计算。，27, 1118-1139 (2005) ·Zbl 1091.65006号 [82] 秀，D。；Karniadakis，G.E.，随机微分方程的Wiener-Askey多项式混沌，SIAM J.Sci。计算。，24619-644（2002年）·Zbl 1014.65004号 [83] 杨，X。；Karniadakis，G.E.，随机椭圆微分方程的重加权极小化方法，J.Compute。物理。，248, 87-108 (2013) ·兹比尔1349.60113 [84] Yang，Y。；Perdikaris，P.，《物理信息神经网络中的对抗不确定性量化》，J.Compute。物理。，394, 136-152 (2019) ·Zbl 1452.68171号 [85] 周，M。；陈，H。；佩斯利，J。；任，L。；李，L。；邢，Z。；邓森，D。；萨皮罗，G。；Carin，L.，用于分析噪声和不完整图像的非参数贝叶斯字典学习，IEEE Trans。图像处理。，21, 130-144 (2011) ·Zbl 1373.62334号 [86] 周，M。；陈，H。；任，L。；萨皮罗，G。；Carin，L。；佩斯利，J.W.，稀疏图像表示的非参数贝叶斯字典学习，（神经信息处理系统进展（2009）），2295-2303 [87] Zhu，Y。；北卡罗来纳州扎巴拉斯。；Koutsourelakis，P.S。；Perdikaris，P.，《无标记数据的高维代理建模和不确定性量化的物理约束深度学习》，J.Compute。物理。，394, 56-81 (2019) ·Zbl 1452.68172号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。