×
布赖恩·弗雷诺（Brian A.Freno）。;凯文·卡尔伯格（Kevin T.Carlberg）。

非线性方程参数化系统近似解的机器学习误差模型。 （英语） Zbl 1440.65058号

计算。方法应用。机械。工程师。 348, 250-296 (2019)。
摘要：这项工作提出了一个机器学习框架，用于构建非线性方程组参数化近似解引起的误差统计模型。这些近似解可能来自迭代方法、低保真度模型或基于投影的降阶模型的提前终止。该统计模型由确定性回归函数模型和随机噪声模型之和组成。该方法通过应用来自机器学习的回归技术（例如，支持向量回归、人工神经网络）来构建回归函数模型，以将特征（即，误差指标，例如残差的采样元素）映射到近似解误差的预测。该方法将噪声模型构造为均值为零的高斯随机变量，其方差作为测试集上近似解误差的样本方差；这种方差可以解释为近似解引入的认知不确定性。这项工作考虑了广泛的特征工程方法、数据集构建技术和回归技术，旨在确保（1）特征是可廉价计算的，（2）噪声模型表现出低方差（即引入的低认知不确定性），以及（3）回归模型推广到独立的测试数据。对几个计算力学问题和近似解类型进行的数值实验表明，该方法能够生成满足这些标准的误差统计模型，显著优于更常用的误差建模方法。

引用于1审查
引用于12文件

MSC公司：

65H10型 方程组解的数值计算
68T05型 人工智能中的学习和自适应系统

关键词：

误差建模;监督机器学习;高维回归;参数化非线性方程;模型简化;ROMES方法

软件：

Scikit公司;利比亚支持向量机;奥尔巴尼
PDF格式BibTeX公司 XML格式引用
\textit{B.A.Freno和\textit{K.T.Carlberg}，计算。方法应用。机械。工程348250-296（2019；Zbl 1440.65058）
全文： 内政部 arXiv公司

参考文献：

[1] Bui-Thanh，T。；Willcox，K。；Ghattas，O.，非定常气动应用概率分析的参数降阶模型，AIAA J.，46，10，2520-2529（2008）
[2] Bui-Thanh，T。；Willcox，K。；Ghattas，O.，具有高维参数输入空间的大型系统的模型简化，SIAM J.Sci。计算。，30, 6, 3270-3288 (2008) ·兹比尔1196.37127
[3] Hinze，M。；Kunkel，M.，POD模型中基于残差的采样，参数化电气网络中漂移扩散方程的降阶，ZAMM-J.Appl。数学。机械/Z.Angew。数学。机械。，92, 2, 91-104 (2012) ·Zbl 1237.78038号
[4] Amsallem，D。；扎尔，M。；Choi，Y。；Farhat，C.，使用超降阶模型的设计优化，结构。多磁盘。最佳。，51, 4, 919-940 (2015)
[5] Wu，Y。；Hetmaniuk，U.，非定常不可压缩Navier-Stokes流局部缩减基的自适应训练，国际。J.数字。方法工程，103，3，183-204（2015）·Zbl 1352.76070号
[6] 亚诺，M。；Patera，A.T.，参数化非线性偏微分方程降基处理的LP经验求积程序，计算。方法应用。机械。工程（2018）
[7] Zahr，M.J。；Farhat，C.，PDE约束优化的参数降阶模型的渐进构造，国际。J.数字。方法工程，102，5，1111-1135（2015）·Zbl 1352.49029号
[8] Zahr，M.，《加速偏微分方程控制的优化问题的自适应模型简化》（2016），斯坦福大学（博士论文）
[9] 巴布什卡，I。；Miller，A.，《有限元法中的后处理方法第1部分：位移、应力和位移的其他高阶导数的计算》，Internat。J.数字。方法工程，20，6，1085-1109（1984）·Zbl 0535.73052号
[10] 贝克尔，R。；Rannacher，R.，《有限元方法中的加权后验误差控制》（1996），海德堡大学·Zbl 0868.65076号
[11] Rannacher，R.，《有限元方法中误差控制和网格自适应的双重加权剩余方法》，《数学》。有限元素。申请。，99, 97-115 (1999)
[12] 班杰斯，W。；Rannacher，R.，微分方程的自适应有限元方法（2003），Springer·Zbl 1020.65058号
[13] Venditti，D。；Darmofal，D.，功能输出的伴随误差估计和网格自适应：准一维流的应用，J.Compute。物理。，164, 1, 204-227 (2000) ·Zbl 0995.76057号
[14] Venditti，D.A。；Darmofal，D.L.，《功能输出的网格适配：二维无粘流的应用》，J.Compute。物理。，176，1，40-69（2002年）·Zbl 1120.76342号
[15] Park，M.A.，基于伴随的三维误差预测和网格自适应，AIAA J.，42，9，1854-1862（2004）
[16] Lu，J.C.-C.，安后部使用间断Galerkin有限元方法进行自适应精度优化的误差控制框架（2005），麻省理工学院（博士论文）
[17] Fidkowski，K.J.，可压缩Navier-Stokes方程高阶离散化的单纯形切元自适应方法（2007），麻省理工学院（博士论文）·Zbl 1343.76026号
[18] 梅耶，M。；Matthies，H.，《使用Karhunen-Loève展开和双重加权剩余方法在非线性动力学中进行有效模型简化》，计算。机械。，31, 1, 179-191 (2003) ·Zbl 1038.74559号
[19] Carlberg，K.，《降阶模型的自适应（h）-精化》，国际。J.数字。方法工程，102，5，1192-1210（2015）·Zbl 1352.65136号
[20] K.Smetana，O.Zahm，A.T.Patera，参数化方程的随机残差误差估计，2018。arXiv预打印arXiv:1807.10489；K.Smetana，O.Zahm，A.T.Patera，参数化方程的随机残差误差估计，2018年。arXiv预印本arXiv：1807.10489·Zbl 1411.65148号
[21] 格雷普，M。；帕特拉，A。，后部参数化抛物型偏微分方程降基近似的误差界，ESAIM:Math。模型。数字。分析。，39, 1, 157-181 (2005) ·Zbl 1079.65096号
[22] Rozza，G。；Huynh，D.B.P。；Patera，A.T.，约化基近似和后部仿射参数化椭圆强迫偏微分方程的误差估计，Arch。计算。方法工程，15，3，229-275（2008）·Zbl 1304.65251号
[23] Huynh，D.B.P。；Knezevic，D.J。；陈，Y。；赫塞文，J.S。；Patera，A.T.，inf–sup下限的自然形式连续约束方法，计算。方法应用。机械。工程，1991963-1975（2010）·Zbl 1231.76208号
[24] Wirtz博士。；索伦森特区。；B.哈斯顿。，A-后部DEIM简化非线性动力系统的误差估计，SIAM J.Sci。计算。，36、A311-338（2014）·Zbl 1312.65127号
[25] S.Hain、M.Ohlberger、M.Radic、K.Urban，等级制后部arXiv:1802.03298；S.Hain、M.Ohlberger、M.Radic、K.Urban，等级制后部arXiv:1802.03298
[26] 加诺，S.E。；雷诺，J.E。；Sanders，B.，使用基于克里格的缩放函数进行混合可变保真度优化，AIAA J.，43，1122422-2433（2005）
[27] 黄，D。；艾伦，T.T。；诺茨，W.I。；Miller，R.A.，使用多重精度评估的顺序克里金优化，结构。多磁盘。最佳。，32, 5, 369-382 (2006)
[28] A.三月。；Willcox，K.，《不需要高保真导数的可证明收敛多重优化算法》，AIAA J.，50，5，1079-1089（2012）
[29] Ng，L.W.-T。；Eldred，M.，使用非侵入多项式混沌和随机配置进行多保真不确定性量化，（第53届AIAA/ASME/ASCE/AHS/ASC结构、结构动力学和材料会议（2012年），美国航空航天学会）
[30] 亚历山德罗夫，N。；刘易斯，R。；Gumbert，C。；格林，L。；Newman，P.，《变刚度模型气动优化中的近似和模型管理》，AIAA J.Aircr。，38, 6, 1093-1101 (2001)
[31] 埃尔德雷德，M.S。；Giunta，A.A。；科利斯，S.S。；亚历山德罗夫，N.A。；Lewis，R.M.，《基于模型层次的代理优化的二阶修正》，第十届AIAA/ISSMO多学科分析与优化会议（2004），美国航空航天研究所
[32] M.C.肯尼迪。；O'Hagan，A.，《计算机模型的贝叶斯校准》，J.R.Stat.Soc.Ser。B统计方法。，63, 3, 425-464 (2001) ·Zbl 1007.62021号
[33] Higdon博士。；Lee，H。；Holloman，C.，基于马尔可夫链蒙特卡罗的计算密集型逆问题推理方法，贝叶斯统计7。第七届巴伦西亚国际会议记录，181-197（2003）
[35] Pagani，S。；Manzoni，A。；Quarteroni，A.，通过缩减基集合卡尔曼滤波器对非线性非稳态偏微分方程中的有效状态/参数估计，SIAM/ASA J.不确定性量化，5，1，890-921（2017）·Zbl 1398.65280号
[36] 穆萨维，A。；ψtefnescu，R。；Sandu，A.，局部降阶模型误差和维数的多元预测，国际。J.数字。方法工程，113，3，512-533（2018）
[37] 斯特凡内斯库，R。；穆萨维，A。；Sandu，A.，精确降阶模型的参数区域分解：MP-LROM方法的应用，J.Compute。申请。数学。，340629-644（2018）·Zbl 1433.65186号
[38] Drohmann，M。；Carlberg，K.，降阶模型误差统计建模的ROMES方法，SIAM/ASA J.不确定性量化，3，116-145（2015）·Zbl 1322.65029号
[39] 拉斯穆森，C。；Williams，C.，（机器学习的高斯过程。机器学习、自适应计算和机器学习系列的高斯过程（2006），大学出版社）·Zbl 1177.68165号
[40] Manzoni，A。；Pagani，S。；Lassila，T.，使用模型和误差减少方法准确解决贝叶斯逆不确定性量化问题，SIAM/ASA J.不确定性量化，4，1，380-412（2016）·Zbl 1383.35251号
[41] Trehan，S。；卡尔伯格，K。；Durlowsky，L.J.，使用机器学习对动力系统代理进行错误建模，国际。J.数字。方法工程，112，12，1801-1827（2017）
[42] Heinkenschloss，M。；Vicente，L.，《不精确信任区域SQP算法分析》，SIAM J.Optim。，12, 2, 283-302 (2002) ·Zbl 1035.90104号
[43] Sirovich，L.，湍流和相干结构动力学，夸特。申请。数学。，45, 561-590 (1987) ·Zbl 0676.76047号
[44] 霍姆斯，P。；Lumley，J.L.（卢姆利，J.L.）。；Berkooz，G.，《湍流、相干结构、动力系统和对称性》（1996），剑桥大学出版社：剑桥大学出版社·Zbl 0890.76001号
[45] Freno，B.A。；Cizmas，P.G.A.，《变形网格非线性流动的适当正交分解方法》，《国际热流学杂志》，50，145-159（2014）
[46] 努尔，A.K。；Peters，J.M.，结构非线性分析的简化基础技术，AIAA J.，18，4，455-462（1980）
[47] 伊藤，K。；Ravindran，S.S.，《流体流动模拟和控制的降阶方法》，J.Compute。物理。，143, 2, 403-425 (1998) ·Zbl 0936.76031号
[48] 卡尔伯格，K。；Farhat，C.，《静态系统模型简化的低成本、面向目标的“紧致正交分解”基础》，国际。J.数字。方法工程，86，3，381-402（2011）·兹比尔1235.74352
[49] LeGresley，P.A.，《正确正交分解（POD）在设计分解方法中的应用》（2006），斯坦福大学（博士论文）
[50] 卡尔伯格，K。；Farhat，C。；Bou-Mosleh，C.，通过最小二乘Petrov-Galerkin投影和压缩张量近似进行的有效非线性模型简化，国际。J.数字。方法工程，86，2，155-181（2011）·Zbl 1235.74351号
[51] 卡尔伯格，K。；Farhat，C。；科尔蒂尔，J。；Amsallem，D.，《非线性模型简化的GNAT方法：计算流体动力学和湍流的有效实施和应用》，J.Compute。物理。，242, 623-647 (2013) ·Zbl 1299.76180号
[52] 卡尔伯格，K。；巴龙，M。；Antil，H.，Galerkin v.非线性模型简化中的最小二乘Petrov-Galerkins投影，J.Compute。物理。，330, 693-734 (2017) ·Zbl 1378.65145号
[53] Astrid，P。；Weiland，S。；Willcox，K。；Backx，T.，通过适当的正交分解描述的模型中的缺失点估计，IEEE Trans。自动化。控制，53，10，2237-2251（2008）·Zbl 1367.93110号
[54] 埃弗森，R。；Sirovich，L.，Karhunen-Loève gappy data程序，J.Opt。美国律师协会，12，81657-1664（1995）
[55] Barrault，M。；Maday，Y。；Nguyen，北卡罗来纳州。；Patera，A.T.，《一种“经验插值”方法：应用于偏微分方程的有效降基离散化》，C.R.Math。阿卡德。科学。，339, 9, 667-672 (2004) ·Zbl 1061.65118号
[56] Chaturantabut，S。；Sorensen，D.C.，《通过离散经验插值进行非线性模型简化》，SIAM J.Sci。计算。，32, 5, 2737-2764 (2010) ·Zbl 1217.65169号
[57] Knoll，D.A。；Keyes，D.E.，《无雅可比牛顿-克利洛夫方法：方法和应用调查》，J.Compute。物理。，193, 2, 357-397 (2004) ·兹比尔1036.65045
[58] Bui-Thanh，T。；Murali，D。；Willcox，K.，可压缩空气动力学中参数应用的适当正交分解扩展，第21届美国航空航天学会应用空气动力学会议（2003年），美国航空航天学会
[59] 文丘里，D。；Karniadakis，G.E.，《圆柱体流动的间隙数据和重建程序》，J.流体力学。，519, 315-336 (2004) ·Zbl 1065.76159号
[60] Willcox，K.，通过间隙固有正交分解的非定常流量传感和估计，计算与流体，35，2，208-226（2006）·Zbl 1160.76394号
[61] Bui-Thanh，T。；Damodaran，M。；Willcox，K.，使用适当正交分解的气动数据重建和逆向设计，AIAA J.，42，8，1505-1516（2004）
[62] 佩赫斯托弗，B。；Willcox，K.，《动态数据驱动模型简化：从不完整数据中调整简化模型》，高级模型。模拟。工程科学。，3, 1, 11 (2016)
[63] 博斯·R。；Bombois，X。；Van den Hof，P.，利用空间和时间相关性加速监测和控制的大规模非线性模型，（美国控制会议论文集，第4卷（2004）），3705-3710
[64] 卡尔伯格，K。；Ray，J。；van Bloemen Waanders，B.，《通过预测降低非线性隐式降阶模型的时间复杂性》，计算。方法应用。机械。工程，289，79-103（2015）·兹比尔1425.65073
[65] K.Carlberg，L.Brencher，B.Haasdonk，A.Barth，《通过预测实现数据驱动的时间并行性》，2016年。arXiv预打印arXiv:1610.09049；K.Carlberg，L.Brencher，B.Haasdonk，A.Barth，《通过预测实现数据驱动的时间并行性》，2016年。arXiv预打印arXiv:1610.09049·Zbl 07099294号
[66] Y.Choi，K.Carlberg，非线性模型简化的时空最小二乘Petrov-Galerkin投影，2017年。arXiv预打印arXiv:1703.04560；Y.Choi，K.Carlberg，非线性模型简化的时空最小二乘Petrov-Galerkin投影，2017年。arXiv预打印arXiv:1703.04560·Zbl 1405.65140号
[67] 德马克，Z。；Gugercin，S.，离散经验插值法的一种新选择算子——改进先验的错误界限和扩展，SIAM J.Sci。计算。，38、2、A631-A648（2016）·兹比尔1382.65193
[68] 佩德雷戈萨，F。；瓦罗佐，G。；Gramfort，A.公司。；米歇尔，V。；蒂里昂，B。；O.格栅。；布隆德尔，M。；普雷滕霍弗，P。；韦斯，R。；杜堡，V。；范德普拉斯，J。；帕索斯，A。；库纳波，D。；布鲁彻，M。；佩罗，M。；Duchesnay，E.，Scikit-learn：Python中的机器学习，J.Mach。学习。第12号决议，2825-2830（2011年）·Zbl 1280.68189号
[69] 别丁克，L。；Louppe，G。；布隆德尔，M。；佩德雷戈萨，F。；穆勒，A。；格里塞尔，O。；Niculae，V。；普雷滕霍弗，P。；Gramfort，A。；Grobler，J。；莱顿，R。；范德普拉斯，J。；Joly，A。；霍尔特，B。；Varoquaux，G.，《机器学习软件的API设计：来自scikit-learn项目的经验》，ECML PKDD Workshop:Languages for Data Mining and machine learning，108-122（2013）
[70] Smola，A.J。；Schölkopf，B.，《支持向量回归教程》，统计计算。，14, 199-222 (2004)
[71] Chung Chang，C。；Jen Lin，C.，LIBSVM：支持向量机库，ACM Trans。智力。系统。技术。，2, 27 (2001)
[72] Breiman，L.，《随机森林》，马赫。学习。，45，1，5-32（2001年）·Zbl 1007.68152号
[73] Rumelhart，D.E。；辛顿，G.E。；Williams，R.J.，《并行分布处理：认知微观结构的探索》，318-362（1986），加州大学圣地亚哥拉荷亚认知科学研究所
[74] 塞林格，A.G。；Bartlett，R.A。；Bradley，A.M。；陈，Q。；德梅什科，I.P。；高，X。；Hansen，G.A。；Mota，A。；穆勒，R.P。；尼尔森，E。；奥斯汀，J.T。；Pawlowski，R.P。；佩雷戈，M。；Phipps，E.T。；Sun，W。；Tezaur，I.K.，ALBANY：使用基于组件的设计开发一个灵活的通用多物理分析代码，Int.J.Multiscale Compute。工程，14，4，415-438（2016）
[75] 田振芳。；Dai，S.Q.，对流扩散型问题的高阶紧致指数有限差分方法，J.Compute。物理。，220, 2, 952-974 (2007) ·兹比尔1109.65089
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。