×
赵贤泰;儿子，Hwijae;Hwang、Hyung Ju;金恩惠

正向问题的深度神经网络方法。 （英语） Zbl 1442.35474号

Netw公司。埃特罗格。媒体 15，第2期，247-259（2020年）.
摘要：在本文中，我们使用深度神经网络（DNN）构造微分方程（DEs）的近似解。此外，我们提出了一个体系结构，其中包括通过实验数据寻找模型参数的过程，即逆问题。也就是说，我们提供了一个统一的DNN架构框架，该框架同时逼近解析解及其模型参数。该体系结构由前馈DNN组成，其非线性激活功能取决于DE、自动微分[A.G.贝丁等，J.Mach。学习。第18号决议，第153号论文，43页（2018年；Zbl 06982909号)]、降阶和基于梯度的优化方法。我们还从理论上证明了所提出的DNN解在基本DE的合适函数空间中收敛为解析解。最后，我们进行了数值实验，以验证我们的简化DNN结构对一维传输方程、二维热方程、二维波动方程和Lotka-Volterra系统的鲁棒性。

引用于1审查
引用于7文件

MSC公司：

92年第35季度 与生物学、化学和其他自然科学有关的偏微分方程

关键词：

微分方程;近似解;反问题;人工神经网络;深度学习

引文：

Zbl 06982909号

软件：

PyTorch公司;亚当;DiffSharp（差异锐化）
PDF格式BibTeX公司 XML格式引用
\textit｛H.Jo｝等人，网络。埃特罗格。Media 15，No.2，247--259（2020；Zbl 1442.35474）
全文： DOI程序 arXiv公司

参考文献：

[1] W.Arloff；K.R.B.Schmitt；L.J.Venstrom，使用粒子群优化的刚性常微分方程的参数估计方法，Int.J.Comput。科学。数学。，9, 419-432 (2018) ·Zbl 1453.65150号 ·doi:10.1504/IJCSM.2018.095506
[2] A.G.Baydin、B.A.Pearlmutter、A.A.Radul和J.M.Siskind，《机器学习中的自动区分：一项调查》，J.马赫。学习。物件。，18（2017），第43页·Zbl 06982909号
[3] J.Berg和K.Nystr{ö}m，偏微分方程的神经网络增广逆问题，预印本，arXiv:1712.09685。
[4] J.Berg；K.Nystr{ö}m，复杂几何偏微分方程的统一深度人工神经网络方法，神经计算，31728-41（2018）·doi:10.1016/j.neucom.2018.06.056
[5] G.查韦，反问题的非线性最小二乘法。应用的理论基础和分步指南《科学计算》，Springer，纽约，2009年·Zbl 1191.65062号
[6] N.E.Cotter，Stone-Weierstrass定理及其在神经网络中的应用，IEEE Trans。神经网络，1290-295（1990）·doi:10.1109/72.80265
[7] R.Courant；K.Friedrichs；H.Lewy，《关于数学物理的偏微分方程》，IBM J.Res.Develop。，11, 215-234 (1967) ·Zbl 0145.40402号 ·doi:10.1147/rd.112.0215
[8] G.Cybenko，通过sigmoid函数的叠加进行逼近，数学。控制信号系统，2303-314（1989）·Zbl 0679.94019号 ·doi:10.1007/BF02551274
[9] L.C.Evans，偏微分方程《数学研究生》，第19页，美国数学学会，普罗维登斯，RI，2010年·兹比尔1194.35001
[10] G.E.Fasshauer，用径向基函数配点求解偏微分方程，Chamonix学报，1997，1-8（1996）
[11] K.Hornik；M.Stinchcombe；H.White，多层前馈网络是通用逼近器，神经网络，2359-366（1989）·兹比尔1383.92015 ·doi:10.1016/0893-6080（89）90020-8
[12] D.P.Kingma和J.Ba，Adam：随机优化方法，预印本，arXiv:1412.6980。
[13] I.E.拉加里斯；A.利卡；D.I.Fotiadis，求解常微分方程和偏微分方程的人工神经网络，IEEE Trans。神经网络，9987-1000（1998）·doi:10.1109/72.7712178
[14] I.E.拉加里斯；A.C.利卡；D.G.Papageorgiou，不规则边界边值问题的神经网络方法，IEEE Trans。神经网络，111041-1049（2000）·doi:10.1109/72.870037
[15] K.Levenberg，用最小二乘法求解某些非线性问题的方法，夸特。申请。数学。，2, 164-168 (1944) ·Zbl 0063.03501号 ·doi:10.1090/qam/10666
[16] L.Jianyu；L.Siwei；Q.Yingjian；H.Yaping，使用径向基函数神经网络求解椭圆偏微分方程，神经网络，16，729-734（2003）·doi:10.1016/S0893-6080（03）00083-2
[17] J.Li和X.Li，有色噪声Wiener系统的粒子群优化迭代辨识算法和梯度迭代辨识算法，复杂性2018年（2018年），第8页·Zbl 1398.93346号
[18] X.Li，用单隐层神经网络同时逼近多元函数及其导数，神经计算，12，327-343（1996）·Zbl 0861.41013号 ·doi:10.1016/0925-2312（95）00070-4
[19] D.W.Marquardt，非线性参数的最小二乘估计算法，《社会工业杂志》。申请。数学。，11, 431-441 (1963) ·Zbl 0112.10505号 ·数字对象标识代码：10.1137/011030
[20] W.S.McCulloch；W·皮特斯，《神经活动内在思想的逻辑演算》，布尔。数学。生物物理。，5, 115-133 (1943) ·Zbl 0063.03860号 ·doi:10.1007/BF02478259
[21] A.Paszke等人，《PyTorch中的自动区分》，计算机科学, (2017).
[22] M.Raissi；P.Perdikaris；G.E.Karniadakis，Physics-informed neural networks:A deep learning framework for solution forward and inverse problems including normal partial differential developments，J.计算。物理。，378686-707（2019）·Zbl 1415.68175号 ·doi:10.1016/j.jcp.2018.10.045
[23] S.J.Reddi、S.Kale和S.Kumar，《关于ADAM及其后的收敛》，预印本，arXiv:1904.09237。
[24] S.A.Sarra，时间相关偏微分方程的自适应径向基函数方法，应用。数字。数学。，54, 79-94 (2005) ·Zbl 1069.65109号 ·doi:10.1016/j.apnum.2004.07.004
[25] P.Tsilifis，I.Bilinis，I.Katsounaros和N.Zabaras，贝叶斯反问题的计算有效变分近似，J.验证有效。取消插入。，第1期（2016年），第13页。
[26] F.Yaman、V.G.Yakhno和R.Potthast，应用科学反问题综述，数学。问题。工程师。2013年（2013年），第19页·Zbl 1299.35321号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。