君士坦丁·格里戈;Koutsourelakis、Phaedon-Stelios 贝叶斯模型和不确定性传播的降维：在随机介质中的应用。 （英语） Zbl 1422.62377号 SIAM/ASA J.不确定性。数量。 7, 292-323 (2019). 摘要：用于求解随机偏微分方程（SPDE）的成熟方法通常难以解决高维输入/输出的问题。只有在大规模应用中，即使是几十次全订单模型运行也不可行，才会加剧这种困难。虽然降维可以缓解其中的一些问题，但尚不清楚（高维）输入的哪些特征以及有多少特征实际上可以预测（高维度）输出。在本文中，我们提倡一种贝叶斯公式，它能够同时进行维数和模型阶数的约简。它由一个组件和一个解码组件组成，该组件通过使用稀疏性诱导先验将高维输入编码为低维特征函数集，该解码组件利用粗粒度模型的解来重建全阶模型的解。这两个分量在概率图形模型中用潜在变量表示，并使用随机变分推理方法同时进行训练。该模型能够量化由于在任何模型阶数/降维过程中不可避免地发生的信息丢失以及有限大小的训练数据集产生的不确定性而导致的预测不确定性。我们在随机介质中演示了它的能力，在随机介质下，精细尺度的波动可以产生数万个变量的随机输入。通过几十个全阶模型模拟，该模型能够识别显著的物理特征，并在由数千个组件组成的全输出的不同边界条件下产生尖锐的预测。 引用于12文件 MSC公司： 第60页 统计学在工程和工业中的应用；控制图 62C10个 贝叶斯问题；贝叶斯过程的特征 65C20个 概率模型，概率统计中的通用数值方法 35卢比60 随机偏微分方程的偏微分方程 关键词：贝叶斯主义者;模型降阶;降维;随机变分推理;稀疏;随机介质 软件：PRMLT公司;红色工具箱;亚当 PDF格式BibTeX公司 XML格式引用 \textit{C.Grigo}和\textit{P.-S.Koutsourelakis}，SIAM/ASA J.不确定。数量。7、292--323（2019年；Zbl 1422.62377） 全文： 内政部 arXiv公司 参考文献： [1] T.Arbogast和K.J.Boyd，{子网格升尺度和混合多尺度有限元}，SIAM J.Numer。分析。，44（2006），第1150-1171页·Zbl 1120.65122号 [2] M.J.Beal和Z.Ghahramani，《不完全数据的变分贝叶斯EM算法：应用于图形模型结构评分》，贝叶斯统计学7，牛津大学出版社，纽约，2003年，第453-463页。 [3] Y.Bengio，{\it学习AI}的深层架构，发现。趋势马赫数。学习。，2（2009年），第1-127页·Zbl 1192.68503号 [4] Y.Bengio、I.J.Goodfellow和A.Courville，《自然》，521（2015），第436-444页·Zbl 1373.68009号 [5] I.Bilionis和P.-S.Koutsourelakis，《通过最小化Kullback-Leibler散度进行自由能计算：稀疏表示的有效自适应偏置势方法》，J.Compute。物理。，231（2012），第3849-3870页·Zbl 1252.82051号 [6] I.Bilionis和N.Zabaras，《多输出局部高斯过程回归：不确定性量化的应用》，J.Compute。物理。，231（2012），第5718-5746页·Zbl 1277.60066号 [7] I.Bilionis和N.Zabaras，{用于不确定性量化的多维自适应相关向量机}，SIAM J.Sci。计算。，34（2012），第B881-B908页·Zbl 1257.62024号 [8] I.Bilionis、N.Zabaras、B.A.Konomi和G.Lin，{多输出可分离高斯过程：走向一种有效的、完全贝叶斯的不确定性量化范式}，J.Compute。物理。，241（2013），第212-239页·Zbl 1349.76760号 [9] C.Bishop，{模式识别和机器学习}，Springer，纽约，2006年·Zbl 1107.68072号 [10] C.Bishop和M.E.Tipping，《变分相关向量机》，《神经信息处理系统进展》12，麻省理工学院出版社，马萨诸塞州剑桥，2000年，第652-658页。 [11] D.M.Blei、A.Kucukelbir和J.D.McAuliffe，《变分推断：统计学家评论》，J.Amer。统计师。协会，112（2017），第859-877页。 [12] S.Bochner，《傅里叶积分讲座》，普林斯顿大学出版社，新泽西州普林斯顿，1959年·Zbl 0085.31802号 [13] D.A.G.Bruggeman，{it Berechnung verschiedener physicalischer konstanten von heterogenen subsizen。I.Dielektrizitatskonstanton und leitfahigkeiten der mischko rper aus isotrogen subsizen}，Annalen der Physik，416（1935），第636-664页。 [14] P.Chen、A.Quarteroni和G.Rozza，《不确定性量化的简化基础方法》，SIAM/ASA J.《不确定性》。数量。，5（2017），第813-869页·兹比尔1400.65010 [15] A.Chernatynskiy、S.R.Phillpot和R.LeSar，《材料多尺度模拟中的不确定性量化：前瞻性》，年。修订版材料。，43（2013），第157-182页。 [16] P.G.Constantine，《活动子空间：参数研究中降维的新思路》，SIAM，费城，2015年·Zbl 1431.65001号 [17] T.Cui、Y.M.Marzouk和K.E.Willcox，{逆向问题贝叶斯解的数据驱动模型简化}，国际。J.数字。方法。工程，102（2015），第966-990页·Zbl 1352.65445号 [18] A.P.Dempster、N.M.Laird和D.B.Rubin，{通过EM算法从不完整数据获得最大似然}，J.Roy。统计师。Soc.序列号。B、 39（1977年），第1-38页·Zbl 0364.62022号 [19] Y.Efendiev和T.Hou，{多孔介质流动的多尺度有限元方法及其应用}，Appl。数字。数学。，57（2007），第577-596页·Zbl 1112.76046号 [20] B.Efron、T.Hastie、I.Johnstone和R.Tibshirani，{最小角度回归}，《统计年鉴》。，32（2004年），第407-499页·Zbl 1091.62054号 [21] H.C.Elman和Q.Liao，{随机系数偏微分方程的约化基配置方法}，SIAM/ASA J.不确定性。数量。，1（2013），第192-217页·Zbl 1282.35424号 [22] A.C.Faul和M.E.Tipping，《稀疏贝叶斯学习的分析》，摘自《神经信息处理系统的进展》，麻省理工学院出版社，马萨诸塞州剑桥，2001年，第383-389页。 [23] M.A.T.Figueiredo，{监督学习的自适应稀疏性}，IEEE Trans。模式分析。机器。智力。，25（2003），第1150-1159页。 [24] P.Gallinari，Y.Maday，M.Sangnier，O.Schwander，和T.Taddei，{通过学习过程获得简化基础，用于快速在线近似PDE的解：后台阶的层流}，Arch。计算。《方法工程》，25（2018），第131-141页·Zbl 1391.76328号 [25] B.Ganapathysubramanian和N.Zabaras，用于生成数据驱动的随机输入模型的非线性降维方法，J.Comput。《物理学》，227（2008），第6612-6637页·Zbl 1141.82316号 [26] M.A.Grepl、Y.Maday、N.C.Nguyen和A.T.Patera，{非仿射和非线性偏微分方程的有效约化基处理}，ESAIM数学。模型。数字。分析。，41（2007），第575-605页·Zbl 1142.65078号 [27] C.Grigo和P.-S.Koutsourlakis，｛\it随机偏微分方程的概率降阶建模｝，第二届计算科学与工程不确定性量化国际会议，2017，第111-129页。 [28] M.Guo和J.S.Hesthaven，{使用高斯过程回归进行非线性结构分析的降阶建模}，计算。方法应用。机械。工程，341（2018），第807-826页·Zbl 1440.65206号 [29] C.Hans，{贝叶斯套索回归}，《生物统计学》，96（2009），第835-845页·Zbl 1179.62038号 [30] Z.Hashin和S.Shtrikman，《多相材料弹性行为理论的变分方法》，J.Mech。物理学。《固体》，11（1963），第127-140页·Zbl 0108.36902号 [31] M.Heinkenschloss，《隐含约束优化问题的数值解法》，技术报告TR08-05，莱斯大学计算与应用数学系，德克萨斯州休斯顿，2008年。 [32] J.M.Hernaández-Lobato，M.W.Hoffman和Z.Ghahramani，{黑箱函数有效全局优化的预测熵搜索}，《神经信息处理系统进展》27，Z.Gharamani，M.Welling，C.Cortes，N.D.Lawrence和K.Q.Weinberger，eds.，麻省理工学院出版社，马萨诸塞州剑桥，2014年，第918-926页。 [33] J.S.Hesthaven、G.Rozza和B.Stamm，{参数化偏微分方程的认证简化基方法}，《Springer数学简讯》，Springer，Cham，2016年·Zbl 1329.65203号 [34] M.D.Hoffman、D.M.Blei、C.Wang和J.Paisley，《随机变分推理》，J.Mach。学习。Res.，14（2013），第1303-1347页·Zbl 1317.68163号 [35] M.C.Kennedy和A.O'Hagan，《当快速近似可用时预测复杂计算机代码的输出》，《生物统计学》，87（2000），第1-13页·Zbl 0974.62024号 [36] D.P.Kingma和J.Ba，《亚当：随机优化方法》，预印本，2014年。 [37] D.P.Kingma和M.Welling，《自动编码变异贝叶斯》，预印本，2013年。 [38] R.Kohavi和G.H.John，《特征子集选择的包装器》，《人工智能》，97（1997），第273-324页·Zbl 0904.68143号 [39] D.Koller和N.Friedman，《概率图形模型：原理和技术》，第1版，麻省理工学院出版社，马萨诸塞州剑桥，2009年·Zbl 1183.68483号 [40] P.-S.Koutsourelakis，{多相随机介质的概率表征和模拟}，概率工程力学，21（2006），第227-234页。 [41] P.-S.Koutsourelakis，{使用不准确的计算模型进行准确的不确定性量化}，SIAM J.Sci。计算。，31（2009），第3274-3300页·Zbl 1200.65002号 [42] P.-S.Koutsourelakis、N.Zabaras和M.Girolama，《大数据和预测计算建模》，J.Compute。物理。，321（2016），第1252-1254页·Zbl 1349.00279号 [43] N.D.Lawrence和M.I.Jordan，{通过高斯过程的半监督学习}，《神经信息处理系统进展》17[神经信息处理体系，NIPS 2004，加拿大不列颠哥伦比亚省温哥华]，2004年，第753-760页。 [44] Y.LeCun、Y.Bengio和G.Hinton，《深度学习》，《自然》，521（2015），第436-444页。 [45] S.Lowell、J.E.Shields、M.A.Thomas和M.Thommes，《多孔固体和粉末的表征：表面积、孔径和密度》，第1卷，施普林格，多德雷赫特，2004年。 [46] B.Lu和S.Torquato，{随机异质材料的线性路径函数}，Phys。A版，45（1992），第922-929页。 [47] X.Ma和N.Zabaras，{求解随机微分方程的自适应分层稀疏网格配置算法}，J.Compute。物理。，228（2009），第3084-3113页·兹比尔1161.65006 [48] X.Ma和N.Zabaras，{随机输入模型生成的核主成分分析}，J.Compute。物理。，230（2011），第7311-7331页·Zbl 1252.65014号 [49] D.J.C.MacKay，{反向传播网络的贝叶斯方法}，摘自《神经网络模型III》，Springer，纽约，1996年，第211-254页。 [50] D.J.C.MacKay，《信息理论、推理和学习算法》，剑桥大学出版社，英国剑桥，2003年·Zbl 1055.94001号 [51] Y.Maday和O.Mula，{广义经验插值法：简化基技术在数据同化中的应用}，Springer Milan，2013年，第221-235页·Zbl 1267.62013年 [52] K.Matou、M.G.D.Geers、V.G.Kouznetsova和A.Gillman，《异质材料多尺度建模预测非线性理论综述》，J.Compute。物理。，330（2017），第192-220页。 [53] C.R.Maurer、R.Qi和V.Raghavan，{计算任意维二值图像精确欧几里德距离变换的线性时间算法}，IEEE Trans。模式分析。机器。智力。，25（2003），第265-270页。 [54] D.L.McDowell和G.B.Olson，《分层材料和结构的并行设计》，科学。模型。模拟。，15（2008），第207-240页。 [55] J.Michel、H.Moulinec和P.Suquet，{具有周期性微观结构的复合材料的有效性能：计算方法}，计算。方法应用。机械。工程，172（1999），第109-143页·Zbl 0964.74054号 [56] C.Miehe、J.Schotte和M.Lambrecht，{基于增量最小化原则的有限应变下非弹性固体材料的均匀化。多晶体织构分析的应用}，J.Mech。物理学。《固体》，50（2002），第2123-2167页·Zbl 1151.74403号 [57] K.S.Narendra和A.S.Fukunaga，特征子集选择的分支定界算法，IEEE Trans。计算。，C-26（1977），第917-922页·Zbl 0363.68059号 [58] R.Neal和G.E.Hinton，《证明增量、稀疏和其他变量合理性的EM算法视图》，摘自《图形模型中的学习》，Springer，Dordrecht，1998年，第355-368页·Zbl 0916.62019号 [59] R.M.Neal，{神经网络的贝叶斯学习}，Springer-Verlag，纽约，1996年·Zbl 0888.62021号 [60] A.K.Noor和J.M.Peters，《结构非线性分析的简化基础技术》，AIAA J.，18（1980），第455-462页。 [61] G.B.Olson，《设计新材料世界》，《科学》，288（2000），第993-998页。 [62] M.Ostoja-Starzewski，{材料力学中的微观结构随机性和尺度}，CRC出版社，佛罗里达州博卡拉顿，2010年·Zbl 1148.74002号 [63] J.Paisley、D.Blei和M.I.Jordan，{随机搜索的变分贝叶斯推理}，第29届国际机器学习会议，J.Langford和J.Pineau编辑，英国爱丁堡，2012年。 [64] J.H.Panchal、S.R.Kalidindi和D.L.McDowell，《集成计算材料工程中的关键计算建模问题》，计算机辅助设计，45（2013），第4-25页。 [65] P.Perdikaris和G.E.Karniadakis，《通过多保真贝叶斯优化进行模型反演：血流动力学及其他领域参数估计的新范式》，J.R.Soc.Interface，13（2016），20151107。 [66] S.D.Pietra、V.D.Piertra和J.Lafferty，《诱导随机场特征》，IEEE Trans。模式分析。机器。智力。，19（1997），第380-393页。 [67] A.Quarteroni、A.Manzoni和F.Negri，《偏微分方程的简化基方法：简介》，La Matematica per il 3+2，Springer，Cham，2016年·Zbl 1337.65113号 [68] A.Rahimi和B.Recht，《大规模内核机器的随机特征》，《神经信息处理系统》，Curran Associates，Red Hook，NY，2008，第1177-1184页。 [69] M.Raissi和G.E.Karniadakis，《隐藏物理模型：非线性偏微分方程的机器学习》，J.Compute。物理。，357（2018），第125-141页·Zbl 1381.68248号 [70] C.E.Rasmussen和Z.Ghahramani，《第十五届神经信息处理系统国际会议论文集》，NIPS’022002，麻省理工学院出版社，马萨诸塞州剑桥，第505-512页。 [71] A.Rosenfeld和J.L.Pfaltz，《数字图像处理中的顺序操作》，J.ACM，13（1966），第471-494页·Zbl 0143.41803号 [72] S.T.Roweis和L.K.Saul，{局部线性嵌入的非线性降维}，《科学》，290（2000），第2323-2326页。 [73] M.Shinozuka和G.Deodatis，{用谱表示法模拟多维随机过程}，应用。机械。第49版（1996年），第29-53页。 [74] P.Soille，《形态学图像分析：原理与应用》，施普林格出版社，柏林，海德堡，1999年·Zbl 0976.68168号 [75] V.Sundararaghavan和N.Zabaras，{变形处理中纹理相关特性控制的多尺度敏感性分析}，国际塑料杂志。，24（2008），第1581-1605页·Zbl 1338.74021号 [76] J.B.Tenenbaum、V.de Silva和J.C.Langford，《非线性降维的全球几何框架》，《科学》，290（2000），第2319-2323页。 [77] R.Tibshirani，{通过拉索回归收缩和选择}，J.Roy。统计师。Soc.序列号。B、 58（1996），第267-288页·Zbl 0850.62538号 [78] M.Tipping，{高维二进制数据的概率可视化}，《1998年神经信息处理系统进展会议论文集II》，麻省理工学院出版社，马萨诸塞州剑桥，1999年，第592-598页。 [79] M.Tipping，{关联向量机}，《神经信息处理系统的进展》，Morgan Kaufmann，San Mateo，CA，2000年·Zbl 0997.68109号 [80] M.Tipping，{稀疏贝叶斯学习和相关向量机}，J.Mach。学习。Res.，1（2001），第211-244页·Zbl 0997.68109号 [81] M.Tipping和C.Bishop，概率主成分分析，J.Roy。统计师。Soc.序列号。B、 61（1999），第611-622页·Zbl 0924.62068号 [82] N.Tishby、F.C.Pereira和W.Bialek，{信息瓶颈方法}，《第37届Allerton通信、控制和计算年会论文集》，1999年，第368-377页。 [83] S.Torquato，{随机异质材料}，Springer-Verlag，纽约，2002年·Zbl 0988.74001号 [84] S.Torquato和G.Stell，{两相随机介质的微观结构。I.n点概率函数}，J.Chem。物理。，77（1982），第2071-2077页。 [85] K.Veroy和A.T.Patera，{参数化定常不可压Navier-Stokes方程的认证实时解；严格的归约基是后验误差界}，国际期刊Numer。《液体方法》，47（2005），第773-788页·兹比尔1134.76326 [86] M.West，{“大p，小n”范式中的贝叶斯因子回归模型}，贝叶斯统计，7（2003），第723-732页。 [87] N.Wiener，{\it齐次混沌}，Amer。数学杂志。，60（1938），第897-936页。 [88] D.P.Wipf和B.D.Rao，{基选择的稀疏贝叶斯学习}，IEEE Trans。信号处理。，52（2004），第2153-2164页·兹比尔1369.94318 [89] W.Xing，A.A.Shah和P.B.Nair，{基于Isomap的参数化偏微分方程的降维高斯过程模拟器}，Proc。R.Soc.伦敦。序列号。数学。物理学。工程科学。，471 (2015), 20140697. [90] W.W.Xing、V.Triantafyllidis、A.A.Shah、P.B.Nair和N.Zabaras，{从计算模型模拟空间场的流形学习}，J.Compute。物理。，326（2016），第666-690页·Zbl 1373.68340号 [91] D.Xiu和J.S.Hesthaven，{随机输入微分方程的高阶配置方法}，SIAM J.Sci。计算。，27（2005），第1118-1139页·Zbl 1091.65006号 [92] S.Yip，《材料建模手册》，施普林格，多德雷赫特，2005年。 [93] Y.Zhu和N.Zabaras，{替代建模和不确定性量化的贝叶斯深度卷积编码器网络}，J.Compute。物理。，366（2018），第415-447页·兹比尔1407.62091 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。