Kang，宋哈；廖文静；刘英杰 识别符：用数值时间演化识别微分方程。 （英语） Zbl 1467.65102号 科学杂志。计算。 87，第1期，第1号论文，27页（2021年）. 通过基本守恒定律从数学上或物理上推导偏微分方程是一个既定的程序，经验数据起着支持作用。然而，在现代应用中，许多复杂系统的机制仍不清楚，很难识别或揭示PDE。直接从测量数据中发现潜在的微分方程是一项具有挑战性的任务。如果数据被破坏，这项任务将变得艰巨，而且往往不切实际。随着计算能力和数据存储的快速发展，数据收集和计算的成本大大降低，从而可以获得大量的实验数据。机器学习的出现也为从大型数据集发现系统的潜在规律提供了一个可靠的工具，为气候科学、神经科学、生态学、金融学和流行病学等领域的研究和研究工作开创了一个新纪元。凭借丰富的数据和难以捉摸的定律，数据驱动的动力学发现将继续发挥重要作用，大大拓宽了对各种复杂系统的适用性。从实验数据中直接识别潜在PDE在计算数学术语中被称为反问题。本文的主要目标是从给定的含时离散数据和边界条件中识别PDE，并假设给定的数据没有任何噪声。针对具有非周期边界条件的演化数据，探索了一种新的算法IDENT，并将其推广到包含噪声数据和非线性变系数的偏微分方程。基于数值PDE格式的一致性、收敛性和稳定性的基本原理，作者提出了一种新的方法。它们还利用LASSO的效率和非相干特性来保证性能。一个简短的文献调查讲述了通过机器学习学习动态系统的正在进行的研究。符号和稀疏回归及其各种扩展是两个开创性的工作。本文中提到的一组研究人员使用谱方法、L1-最小化、随机抽样理论、贝叶斯方法等，根据观测数据分析动力系统。另一组研究人员的相关工作侧重于使用深度学习技术、神经网络等。本文旨在使动力系统与机器学习相互促进，相互促进。反问题的数学公式包括假设控制方程是指定字典中几个线性和非线性微分项的线性组合，并通过FDM近似导数得出离散线性系统。假设系数是稀疏的，利用L1正则化最小化来寻找非零系数的候选。最后，利用TEE和最小二乘拟合实现了偏微分方程的辨识。在算法开发中所做的关键假设是：1）给定数据没有任何测量噪声，或者如果有噪声，则会去噪；2） 时间导数线性组合中的系数是稀疏的，因为稀疏性在最小化TEE中起着关键作用。为了解决现有PDE识别方法对低NSR数据无效的问题，作者陈述并证明了一个定理（详细内容见附录），从而得出了NSR的新定义。在本文中，作者首先演示了两个基准问题的算法，以发现潜在的PDE，这些基准问题的数据是通过采样无粘Burgers方程的精确解或模拟解以及扩散项满足Dirichlet零边界条件的方程的解获得的。顺便说一句，作者认为该方法能够对边界条件进行推广。作为实施的一部分，计算TEE，并将TEE最小的项确定为IDENT的结果。获得的结果以图形方式显示，以捕获给定数据的定性方面，并确定理论观察的有效性。在另一小节中，探讨了数据生成不准确、噪声和下采样的影响。推导了这三个方面的误差公式，为解决识别高阶偏微分方程的困难提供了理论工具。确定去噪通常是有帮助的事实。作者提出了一种带噪声数据的Burger方程的数值处理方法，并在不去噪的情况下直接应用IDENT，证明了识别的失败。这就需要作者提出一种新的保阶去噪方法LSMA，下一组数值实验表明LSMA+IDENT大大改善了结果。进一步，考虑了具有不同下采样率的Burger方程。对下采样的噪声数据执行IDENT，分别用LS和LSMA去噪。实验结果表明，LSMA显著提高了IDENT的性能。在最后一组实验中，考虑了可变系数的偏微分方程。为了确保算法的稳定性，调用了一个额外的过程BEE。有了这一新增程序，据称IDENT在改进选择方面继续表现令人满意。为了证实他们的说法的有效性，作者考虑了具有不同扩散系数的Burger方程。令作者惊讶的是，即使对于有噪声的数据，未经任何去噪的IDENT+BEE也能很好地识别PDE的结构。然而，如果应用LSMA去噪，则变系数近似可以得到改进。作为他们研究工作的恰当结局，所有系数都可以在空间上变化。即使在这种情况下，带BEE的IDENT也能成功识别正确的术语。该示例表明，该方法对噪声似乎是鲁棒的。然而，该方法能够检测出正确的特征并逼近系数的真实值。评论和意见1）从泛函分析中使用适当的函数空间和范数来估计误差、最小二乘拟合、能量最小化等。2)作者的目标是针对高噪声、不同的下采样率和不同的系数开发稳定的算法。给出了验证其稳健性声明的数值实验。3)为了强调计算框架的作用，同时不低估理论背景的力量，并使论文尽可能完备，附录中给出了所述证明的细节。4)本文还提出了一种新的稀疏识别准则来识别PDE的结构，该方法可以识别PDE中的小系数项。5)从低信噪比（NSR）数据中识别偏微分方程是困难的，因为数值微分对噪声数据是不适定的。此外，噪声对不同PDE的影响不同。为了纠正这种情况，从定理的角度给出了NSR的新定义，以测量噪声水平。6)在训练数据的大小、边界条件的灵活性以及处理变系数的独创性方面，该方法与现有方法具有可比性。这种新颖的方法具有几个有利的实际特点。7)当我们的目标是从对系统的观察中恢复有关系统的信息时，就会出现反问题。在这项工作中，作者关注的是由偏微分方程描述的系统，他们希望发现的信息是微分方程中的系数。8)这项工作开发了一个新的框架，利用稀疏技术和机器学习的进步，从数据测量中发现动力学系统的控制方程。9)据我所知，这是第一种数据驱动的回归技术，它明确解释了发现物理定律时的空间导数，因此，该方法的成功表明，统计和机器学习的许多概念可以与传统科学计算和动态系统理论相结合，从数据中发现动态模型。10)本文提出了对不同研究空白的见解，这将为数据驱动动力系统领域的进一步研究提供方向。特别是，在使用L1正则最小二乘最小化来选择正确的特征来学习控制PDE时。PDE中的项的识别和系数的近似值直接来自数据。数值实验表明，该方法对数据噪声和大小具有鲁棒性，能够准确地捕捉数据的真实特征。审核人：Chandrasekhar Salimath（班加罗鲁） 引用于15文件 MSC公司： 65N21型 含偏微分方程边值问题反问题的数值方法 65N20型 含偏微分方程边值问题不适定问题的数值方法 68T05型 人工智能中的学习和自适应系统 关键词：识别未知微分方程；时间演变误差；可变系数；基本元素展开（BEE）；去噪；下采样 软件：PDE-网络；SINDy公司；BLOOMP公司 PDF格式BibTeX公司 XML格式引用 \textit{S.H.Kang}等人，《科学杂志》。计算。87，第1期，第1号论文，第27页（2021年；Zbl 1467.65102） 全文： 内政部 arXiv公司 参考文献： [1] Barth，T.，Frederickson，P.：使用二次重建在非结构网格上求解欧拉方程的高阶解。在第28届航空航天科学会议上，第13页（1990年） [2] Bertsekas，DP，约束优化和拉格朗日乘子方法（2014），伦敦：学术出版社，伦敦·Zbl 0572.90067号 [3] 邦加德，J。；Lipson，H.，《非线性动力系统的自动逆向工程》，Proc。国家。阿卡德。科学。，104, 24, 9943-9948 (2007) ·Zbl 1155.37044号 ·doi:10.1073/pnas.0609476104 [4] Bongini，M。；Fornasier，M。；Hansen，M。；Maggioni，M.，《从进化系统的观测推断相互作用规则：变分方法》，数学。模型方法应用。科学。，27, 5, 909-951 (2017) ·Zbl 1368.37017号 ·doi:10.1142/S0218202517500208 [5] 博伊德，S。；北卡罗来纳州帕里赫。；朱，E。；佩莱托，B。；Eckstein，J.，《通过交替方向乘数法进行分布式优化和统计学习》，Found Trends®Mach。学习。，3, 1, 1-122 (2011) ·Zbl 1229.90122号 [6] 布鲁顿，SL；普克托，JL；Kutz，JN，通过非线性动力系统的稀疏识别从数据中发现控制方程，Proc。国家。阿卡德。科学。，113, 15, 3932-3937 (2016) ·Zbl 1355.94013号 ·doi:10.1073/pnas.1517384113 [7] 坎迪斯，EJ；J.隆伯格。；Tao，T.，《鲁棒不确定性原理：从高度不完整的频率信息中精确重建信号》，IEEE Trans。《信息论》，52，2489-509（2006）·兹比尔1231.94017 ·doi:10.1109/TIT.2005.862083 [8] 多诺霍，DL；霍，X.，不确定性原理和理想原子分解。，IEEE传输。《信息论》，47，7，2845-2862（2001）·Zbl 1019.94503号 ·doi:10.1109/18.959265 [9] 范江，A。；Liao，W.，具有未解析网格的相干模式引导压缩传感，SIAM J.Imaging Sci。，5, 1, 179-202 (2012) ·Zbl 1250.65035号 ·数字对象标识代码：10.1137/10838509 [10] Fuchs，J-J，关于任意冗余基的稀疏表示，IEEE Trans。Inf.理论，50，6，1341-1344（2004）·Zbl 1284.94018号 ·doi:10.1109/TIT.2004.828141 [11] Harten，A。；Engquist，B。；Osher，S。；Chakravarthy，SR，《均匀高阶精确基本无振荡格式》，iii，J.Compute。物理。，71, 2, 231-303 (1987) ·兹伯利0652.65067 ·doi:10.1016/0021-991（87）90031-3 [12] H.长清。；Shu，C-W，三角网格上的加权本质非振荡格式，J.Compute。物理。，150, 1, 97-127 (1999) ·Zbl 0926.65090号 ·doi:10.1006/jcph.1998.6165 [13] 凯泽，E。；JN库茨；Brunton，SL，低数据限下模型预测控制的非线性动力学稀疏辨识，Proc。R.Soc.A，474，2219，20180335（2018）·Zbl 1425.93175号 ·doi:10.1098/rspa.2018.0335 [14] Khoo，Y.，Ying，L.：Switchnet：前向和反向散射问题的神经网络模型。arXiv预印arXiv:1810.09675（2018）·Zbl 1425.65208号 [15] 刘，Y。；舒，C-W；Tadmor，E。；Zhang，M.，关于具有非振荡分层重建的重叠细胞的中央间断Galerkin方法，SIAM J.Numer。分析。，45, 2442-2467 (2007) ·Zbl 1157.65450号 ·数字对象标识代码：10.1137/060666974 [16] Loiseau，J-C；Brunton，SL，约束稀疏Galerkin回归，J.流体力学。，838，42-67（2018）·Zbl 1419.76205号 ·doi:10.1017/jfm.2017.823 [17] Long，Z.，Lu，Y.，Ma，X.，Dong，B.：PDE-Net：从数据中学习PDE。arXiv预印arXiv:1710.09668（2017） [18] Lu，F.，Zhong，M.，Tang，S.，Maggioni，M.：从轨迹数据对智能体系统中交互规律的非参数推断。arXiv预印arXiv:1812.06003（2018）·Zbl 1431.62122号 [19] Lusch，B。；JN库茨；Brunton，SL，《非线性动力学通用线性嵌入的深度学习》，国家通讯社。，9, 1, 4950 (2018) ·doi:10.1038/s41467-018-07210-0 [20] 新墨西哥州曼根；JN库茨；布鲁顿，SL；Proctor，JL，《通过稀疏回归和信息准则进行动力系统模型选择》，Proc。R.Soc.A，473，2204，20170009（2017）·Zbl 1404.65308号 ·doi:10.1098/rspa.2017.0009 [21] Qin，T.，Wu，K.，Xiu，D.：使用深度神经网络的数据驱动控制方程近似。arXiv预印arXiv:1811.05537（2018） [22] Raissi，M.：深层隐藏物理模型：非线性偏微分方程的深层学习。arXiv预印arXiv:1801.06637（2018）·Zbl 1439.68021号 [23] 莱斯，M。；Karniadakis，GE，《隐藏物理模型：非线性偏微分方程的机器学习》，J.Compute。物理。，357, 125-141 (2018) ·Zbl 1381.68248号 ·doi:10.1016/j.jcp.2017.11.039 [24] Raissi，M.，Perdikaris，P.，Karniadakis，G.E.：物理学为深度学习提供了信息（第一部分）：非线性偏微分方程的数据驱动解。arXiv预印arXiv:1711.10561（2017）·Zbl 1382.65229号 [25] 鲁迪，SH；布鲁顿，SL；普克托，JL；Kutz，JN，偏微分方程的数据驱动发现，科学。高级，3，4，e1602614（2017）·doi:10.1126/sciadv.1602614 [26] Schaeffer，H.，通过数据发现和稀疏优化学习偏微分方程，Proc。R.Soc.A数学。物理学。工程科学。，473, 2197, 20160446 (2017) ·Zbl 1404.35397号 [27] 谢弗，H。；卡弗利施，R。；哈克，CD；Osher，S.，偏微分方程的稀疏动力学。，程序。美国国家科学院。科学。，110, 17, 6634-6639 (2013) ·Zbl 1292.35012号 ·doi:10.1073/pnas.1302752110 [28] 谢弗，H。；Tran，G。；Ward，R.，《从有限数据中提取稀疏高维动力学》，SIAM J.Appl。数学。，78, 6, 3279-3295 (2018) ·Zbl 1405.62127号 ·doi:10.1137/18M116798X [29] 施密特，M。；Lipson，H.，《从实验数据中提取自由形式自然法则》，《科学》，324592381-85（2009）·doi:10.1126/科学.1165893 [30] Tibshirani，R.，通过套索进行回归收缩和选择，J.R.Stat.Soc.Ser。B（Methodol.），58267-288（1996）·Zbl 0850.62538号 [31] Tran，G。；Ward，R.，《从高度损坏的数据中精确恢复混沌系统》，Multisc。模型。模拟。，15, 3, 1108-1129 (2017) ·doi:10.137/16M1086637 [32] Tropp，J.A.：放松：子集选择和稀疏近似的凸规划方法。ICES报告，404（2004） [33] JA Tropp，Just relax:识别噪声中稀疏信号的凸规划方法，IEEE Trans。Inf.理论，52，31030-1051（2006）·Zbl 1288.94025号 ·doi:10.1109/TIT.2005.864420 [34] 袁，M。；Lin，Y.，分组变量回归中的模型选择和估计，J.R.Stat.Soc.Ser。B（Stat.Methodol.），68，1，49-67（2006）·Zbl 1141.62030号 ·doi:10.1111/j.1467-9868.2005302.x [35] 张，S。；Lin，G.，《利用误差棒对支配物理定律进行稳健的数据驱动发现》，Proc。R.Soc.A，474，2217，20180305（2018）·Zbl 1407.62267号 ·doi:10.1098/rspa.2018.0305 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。