雷加佐尼，F。;戴德，L。;A.昆特罗尼。 用于快速可靠求解含时微分方程的机器学习。 （英语） Zbl 1454.65185号 J.计算。物理学。 397，文章ID 108852，第26页（2019）. 摘要：我们提出了一种基于人工神经网络（ANN）的数据驱动模型降阶（MOR）技术，适用于由常微分方程（ODE）或含时偏微分方程（PDE）产生的动力学系统。与基于模型的方法不同，该方法是非侵入性的，因为它只需要通过高保真（HF）ODE或PDE模型生成的输入-输出对集合。我们将模型约简问题表述为一个极大似然问题，在这个问题中，我们寻找一个模型，在一类候选模型中，将可用输入-输出对上的误差最小化。具体地说，我们通过人工神经网络表示候选模型，我们对其进行训练以从训练输入输出数据中学习HF模型的动力学。我们证明，ANN模型能够以任何期望的精度逼近ODE描述的每个时间相关模型。我们在不同的问题上测试了该技术，包括两个大型模型的模型简化。本文所考虑的两个ODE高频系统分别来自抛物线和双曲线PDE的空间离散化，这为该技术的应用提供了一个前景广阔的领域。 引用于36文件 MSC公司： 65页99 动力系统中的数值问题 68T07型 人工神经网络与深度学习 93立方厘米30 系统标识 65K10码 数值优化和变分技术 35K05美元 热量方程式 关键词：机器学习;微分方程;模型降阶;系统标识;人工神经网络;数据驱动模型 软件：红色工具箱;娄威纳;阿达格拉德;亚当 PDF格式BibTeX公司 XML格式引用 \textit{F.Regazzoni}等人，《计算杂志》。物理学。397，文章ID 108852，26 p.（2019；Zbl 1454.65185） 全文： 内政部 链接 参考文献： [1] 安托瓦拉斯，A.C。；索伦森特区。；Gugercin，S.，《大型系统模型简化方法综述》（2000年），技术代表·Zbl 1048.93014号 [2] 本纳，P。；梅赫曼，V。；Sorensen，D.C.，《大尺度系统的降维》，第35卷（2005），Springer [3] Quarteroni，A。；Rozza，G.，《建模和计算约简的降阶方法》，第9卷（2014），施普林格·Zbl 1280.65004号 [4] Quarteroni，A。；曼佐尼，A。；Negri，F.，《偏微分方程的约化基方法：简介》，第92卷（2015年），Springer [5] 本纳，P。；古吉丁，S。；Willcox，K.，参数动力系统基于投影的模型简化方法综述，SIAM Rev.，57，4，483-531（2015）·Zbl 1339.37089号 [6] Antoulas，A.C.，《大尺度动力系统的近似》，第6卷（2005），SIAM·Zbl 1112.93002号 [7] 佩赫斯托弗，B。；Willcox，K.，动态数据驱动的降阶模型，计算。方法应用。机械。工程，291，21-41（2015）·Zbl 1425.65205号 [8] 佩赫斯托弗，B。；Willcox，K.，《通过低阶更新对非线性系统进行在线自适应模型简化》，SIAM J.Sci。计算。，37、4、A2123-A2150（2015）·Zbl 1323.65102号 [9] 佩赫斯托弗，B。；古吉丁，S。；Willcox，K.，用时域Loewner模型进行数据驱动简化模型构建，SIAM J.Sci。计算。，39，5，A2152-A2178（2017）·Zbl 1448.65087号 [10] Bai，Z.，Krylov子空间技术用于大型动力系统的降阶建模，应用。数字。数学。，43, 1-2, 9-44 (2002) ·Zbl 1012.65136号 [11] 美国鲍尔。；比蒂，C。；本纳，P。；Gugercin，S.，参数化模型简化的插值投影方法，SIAM J.Sci。计算。，33, 5, 2489-2518 (2011) ·Zbl 1254.93032号 [12] Freund，R.W.，基于Krylov子空间的模型简化方法，Acta Numer。，12, 267-319 (2003) ·Zbl 1046.65021号 [13] Moore，B.，《线性系统的主成分分析：可控性、可观测性和模型简化》，IEEE Trans。自动。控制，26，1，17-32（1981）·Zbl 0464.93022号 [14] 皮尔逊，K.，LIII。在最接近空间点系的直线和平面上，菲洛斯。Mag.，2，11，559-572（1901） [15] Sirovich，L.，湍流和相干结构动力学。I.相干结构，Q.Appl。数学。，45,3561-571（1987）·Zbl 0676.76047号 [16] Hotelling，H.，《将复杂统计变量分析为主成分》，J.Educ。心理医生。，24, 6, 417 (1933) [17] Loeve，M.，概率论，第二卷，数学研究生教材，第46卷（1978），387页·Zbl 0385.60001号 [18] Fink，J.P。；Rheinboldt，W.，《关于非线性有限元近似的简化基技术的误差行为》，Z.Angew。数学。机械。，63, 1, 21-28 (1983) ·Zbl 0533.73071号 [19] Peterson，J.S.，《不可压缩粘性流计算的简化基方法》，SIAM J.Sci。统计计算。，10, 4, 777-786 (1989) ·Zbl 0672.76034号 [20] Prud'Homme，C。；罗瓦斯，D.V。；Veroy，K。；机械，L。；马代，Y。；Patera，A.T。；Turinici，G.，参数化偏微分方程的可靠实时解：降基输出界方法，J.Fluids Eng.，124，1，70-80（2002） [21] 赫塞文，J.S。；Rozza，G。；Stamm，B.，参数化偏微分方程的认证简化基方法（2016），Springer·Zbl 1329.65203号 [22] Barrault，M。；Maday，Y。；Nguyen，北卡罗来纳州。；Patera，A.T.，《一种“经验插值”方法：在偏微分方程高效降基离散化中的应用》，C.R.Math。，339, 9, 667-672 (2004) ·Zbl 1061.65118号 [23] Maday，Y。；Nguyen，北卡罗来纳州。；Patera，A.T。；Pau，G.S.，《通用多用途插值程序：幻点，Commun》。纯应用程序。分析。，8, 383 (2009) ·Zbl 1184.65020号 [24] Chaturantabut，S。；Sorensen，D.C.，通过离散经验插值进行非线性模型简化，SIAM J.Sci。计算。，32, 5, 2737-2764 (2010) ·兹比尔1217.65169 [25] Drohmann，M。；Haasdonk，B。；Ohlberger，M.，基于经验算子插值的非线性参数化演化方程的简化基近似，SIAM J.Sci。计算。，34、2、A937-A969（2012）·Zbl 1259.65133号 [26] 内格里，F。；曼佐尼，A。；Amsallem，D.，通过矩阵离散经验插值对参数化系统进行有效模型简化，J.Compute。物理。，303, 431-454 (2015) ·Zbl 1349.65154号 [27] 埃弗森，R。；Sirovich，L.，Karhunen-Loeve间隙数据程序，J.Opt。《美国社会》，第12、8、1657-1664页（1995年） [28] Lee，K。；Carlberg，K.，使用深度卷积自编码器对非线性流形上动力系统的模型简化，arXiv预印本·Zbl 1454.65184号 [29] 新墨西哥州亚历山德罗夫。；刘易斯·R·M。；Gumbert，C.R。；格林，L.L。；Newman，P.A.，《变刚度模型气动优化中的近似和模型管理》，J.Aircr。，38, 6, 1093-1101 (2001) [30] 雷加佐尼，F。；戴德，L。；Quarteroni，A.，《心肌细胞的主动收缩：具有协同作用的肌节动力学简化模型》，Biomech。模型。机械双醇。，1-24 (2018) [31] Quarteroni，A。；Veneziani，A.，基于血流模拟的ode和pde耦合的几何多尺度模型分析，多尺度模型。模拟。，1, 2, 173-195 (2003) ·Zbl 1060.35003号 [32] Hackbusch，W.，关于抛物线边界控制问题的快速求解，SIAM J.control Optim。，17, 2, 231-244 (1979) ·Zbl 0402.49025号 [33] Löwner，K.，《单调矩阵》，数学。Z.，38，1，177-216（1934） [34] A.梅奥。；Antoulas，A.，解决广义实现问题的框架，线性代数应用。，425, 2-3, 634-662 (2007) ·Zbl 1118.93029号 [35] Lefteriu，S。；Antoulas，A.C.，《从频域数据建模多端口系统的新方法》，IEEE Trans。计算-辅助设计。集成。电路系统。，2010年1月29日至27日 [36] 安托拉斯，A.C。；Gosea，I.V。；Ionita，A.C.，《Loewner框架中双线性系统的模型简化》，SIAM J.Sci。计算。，38、5、B889-B916（2016）·兹比尔1515.35038 [37] Gosea，I.V。；Antoulas，A.C.，《Loewner框架中线性和非线性系统的模型简化：总结》，（控制会议（ECC），2015欧洲（2015），IEEE），345-349 [38] Gu，C.，Qlmor：一种基于投影的非线性模型降阶方法，使用非线性系统的二次线性表示，IEEE Trans。计算-辅助设计。集成。电路系统。，30, 9, 1307-1320 (2011) [39] Deschrijver，D。；Dhane，T.，使用正交向量拟合对光谱数据进行合理建模，（IEEE第九届互连信号传播研讨会（2005）），111-114 [40] Deschrijver，D。；海格曼，B。；Dhane，T.，正交向量拟合：用于频域响应合理近似的稳健宏建模工具，IEEE Trans。高级包装，30，2，216-225（2007） [41] Krige，D.G.，《威特沃特斯兰德一些基本矿山估价问题的统计方法》，J.S.Afr。仪表最小金属。，52, 6, 119-139 (1951) [42] Rasmussen，C.E.，机器学习中的高斯过程，（机器学习高级讲座（2004），Springer），63-71·Zbl 1120.68436号 [43] Menafoglio，A。；塞奇，P。；Dalla Rosa，M.，希尔伯特空间空间相关函数数据的通用克里金预测，电子。J.Stat.，7，2209-2240（2013）·Zbl 1293.62120号 [44] 埃尔南德斯，A.F。；Gallivan，M.G.，《使用kriging对离散时间状态空间模型的探索性研究》，（美国控制会议，2008（2008），IEEE），3993-3998 [45] 布伦顿，S.L。；Proctor，J.L。；Kutz，J.N.，通过非线性动力系统的稀疏识别从数据中发现控制方程，Proc。国家。阿卡德。科学。，第201517384页（2016）·Zbl 1355.94013号 [46] 郭，M。；Hesthaven，J.S.，时间相关问题的数据驱动降阶建模，计算。方法应用。机械。工程，345，75-99（2019）·Zbl 1440.62346号 [47] Ljung，L.，系统识别，（信号分析和预测（1998），施普林格），163-173 [48] Keesman，K.J.，《系统识别：导论》（2011），施普林格科学与商业媒体·Zbl 1230.93001号 [49] Nelles，O.，《非线性系统辨识：从经典方法到神经网络和模糊模型》（2013），施普林格科学与商业媒体 [50] Narendra，K.S。；Parthasarathy，K.，《使用神经网络识别和控制动态系统》，IEEE Trans。神经网络。，1, 1, 4-27 (1990) [51] Narendra，K.S。；Parthasarathy，K.，《神经网络和动力系统》，《国际近似推理杂志》。，6, 2, 109-131 (1992) ·兹比尔0767.93035 [52] 莱斯，M。；佩迪卡里斯，P。；Karniadakis，G.E.，使用高斯过程的线性微分方程机器学习，J.Compute。物理。，348, 683-693 (2017) ·Zbl 1380.68339号 [53] 莱斯，M。；Karniadakis，G.E.，《隐藏物理模型：非线性偏微分方程的机器学习》，J.Compute。物理。，357, 125-141 (2018) ·Zbl 1381.68248号 [54] 莱斯，M。；佩迪卡里斯，P。；Karniadakis，G.E.，《物理学指导的深度学习》（第一部分）：非线性偏微分方程的数据驱动解，arXiv预印本·Zbl 1415.68175号 [55] 莱斯，M。；佩迪卡里斯，P。；Karniadakis，G.E.，《物理学为基础的深度学习》（第二部分）：非线性偏微分方程的数据驱动发现，arXiv预印本·Zbl 1415.68175号 [56] Raissi先生。；佩迪卡里斯，P。；Karniadakis，G.E.，《基于物理的神经网络：用于解决涉及非线性偏微分方程的正问题和逆问题的深度学习框架》，J.Compute。物理。，378, 686-707 (2019) ·Zbl 1415.68175号 [57] 莱斯，M。；佩迪卡里斯，P。；Karniadakis，G.E.，非线性动力系统数据驱动发现的多步神经网络，arXiv预印本·Zbl 1415.68175号 [58] 圣马力诺。；Maulik，R.，非线性模型降阶的神经网络闭包，高级计算。数学。，1-34 (2018) [59] Trehan，S。；卡尔伯格，K.T。；Durlowsky，L.J.，《使用机器学习的动态系统代理的错误建模》，国际期刊Numer。方法工程，112，12，1801-1827（2017） [60] Freno，B.A。；Carlberg，K.T.，非线性方程参数化系统近似解的机器学习误差模型，arXiv预印本·Zbl 1440.65058号 [61] Cybenko，G.，S形函数的叠加逼近，数学。控制信号系统。，2, 4, 303-314 (1989) ·Zbl 0679.94019号 [62] 卡塞拉，G。；Berger，R.L.，《统计推断》，第2卷（2002），达克斯伯里：达克斯伯里·太平洋格罗夫，加利福尼亚州 [63] Cybenko，G.，《具有两个隐藏层的连续值神经网络足够了》（1988），塔夫茨大学计算机科学系，技术报告 [64] Yegnanarayana，B.，人工神经网络（2009），PHI学习私人有限公司。 [65] Haykin，S.S.，《神经网络和学习机器》，第3卷（2009），皮尔逊上鞍河 [66] A.Graves，用递归神经网络生成序列，arXiv预印本，arXiv:1308.0850；A.Graves，用递归神经网络生成序列，arXiv预印本，arXiv:1308.0850 [67] 辛顿，G。；邓，L。；Yu，D。；Dahl，G.E。；Mohamed，A。；北卡罗来纳州贾特利。；高级，A。；Vanhoucke，V。；Nguyen，P。；Sainath，T.N.，《语音识别中声学建模的深度神经网络：四个研究小组的共同观点》，IEEE信号处理。Mag.，29，6，82-97（2012） [68] 康纳，J.T。；马丁·R·D。；Atlas，L.E.，递归神经网络和稳健时间序列预测，IEEE Trans。神经网络。，5, 2, 240-254 (1994) [69] Nocedal，J。；Wright，S.，数值优化（2006），施普林格科学与商业媒体：美国纽约州斯普林格科学与商业媒体·Zbl 1104.65059号 [70] 格里波，L。；Sciandone，M.，Metodi di Ottimizazione Non Vincolata（2011），施普林格科技与商业媒体·Zbl 1213.90003号 [71] Y.Chen，J.White，非线性模型降阶的二次方法，https://briefs.techconnect.org/papers/a-quadratic-method-for-nonlinear-model-order-reduction/; Y.Chen，J.White，非线性模型降阶的二次方法，https://briefs.techconnect.org/papers/a-quadratic-method-for-nonlinear-model-order-reduction/ [72] 雷文斯基，M。；White，J.，《非线性电路和微机械设备模型降阶和快速仿真的轨迹分段线性方法》，（2001年IEEE/ACM国际计算机辅助设计会议论文集（2001年），IEEE出版社），252-257 [73] 曼佐尼，A。；Pagani，S。；Lassila，T.，结合约化基方法和约化误差模型的贝叶斯逆不确定性量化问题的精确解，《国际不确定性杂志》。量化。，4, 1, 380-412 (2016) ·Zbl 1383.35251号 [74] 佩戈洛蒂，L.，费马特 [75] 医学博士麦凯。；贝克曼，R.J。；Conover，W.J.，《计算机代码输出分析中选择输入变量值的三种方法的比较》，《技术计量学》，42，1，55-61（2000） [76] Bottou，L.，随机梯度下降的大尺度机器学习，（2010年《COMPSTAT学报》，Springer），177-186·兹比尔1436.68293 [77] 杜奇，J。；哈赞，E。；Singer，Y.，在线学习和随机优化的自适应次梯度方法，J.Mach。学习。第12号决议（7月），第2121-2159号决议（2011年）·兹比尔1280.68164 [78] Kingma，D.P。；Ba，J.，Adam：一种随机优化方法，arXiv预印本 [79] 北斯利瓦斯塔瓦。；辛顿，G。；Krizhevsky，A。；Sutskever，I。；Salakhutdinov，R.，《辍学：防止神经网络过度拟合的简单方法》，J.Mach。学习。1929-1958年第15号决议（2014年）·Zbl 1318.68153号 [80] 洛夫，S。；Szegedy，C.，《批量规范化：通过减少内部协变量偏移加速深层网络训练》，arXiv预印本 [81] 布罗克，A。；Lim，T。；Ritchie，J.M。；韦斯顿，N.，Freezeout：通过逐步冻结层加速训练 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。