×

证明了在半线性热方程的数值逼近中,修正的深度神经网络克服了维数灾难。 (英语) Zbl 1455.65200元

摘要:深度神经网络和其他深度学习方法已成功应用于金融、工程和自然科学中广泛应用的高维非线性抛物型偏微分方程(PDE)的数值逼近。特别是,仿真表明,基于深度学习的算法在半线性偏微分方程解的数值逼近中克服了维数灾难。对于某些线性偏微分方程,也已从数学上证明,深度神经网络在对此类线性偏微分方程式的解进行数值逼近时克服了维数灾难。本文的主要贡献是首次对一类非线性偏微分方程严格证明了这一点。更准确地说,我们证明了在具有梯度相关非线性的半线性热方程的情况下,所使用的深度神经网络的参数数量在PDE维数和规定的近似精度的倒数上最多以多项式形式增长。我们的证明依赖于最近引入的半线性偏微分方程的全历史递归多级Picard近似。

MSC公司:

65亿75 涉及偏微分方程的初值和初边值问题的概率方法、粒子方法等
65C99个 概率方法,随机微分方程
68T05型 人工智能中的学习和自适应系统
68T07型 人工神经网络与深度学习

软件:

DGM公司
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Beck,C.,Becker,S.,Grohs,P.,Jaafari,N.,Jentzen,A.:通过深度学习解决随机微分方程和Kolmogorov方程。arXiv:1806.00421,(2018)
[2] 贝克,C。;E、 W。;Jentzen,A.,高维完全非线性偏微分方程和二阶后向随机微分方程的机器学习近似算法,J.nonlinear Sci。,29, 1563-1619 (2019) ·Zbl 1442.91116号 ·doi:10.1007/s00332-018-9525-3
[3] Beck,C.,Hornung,F.,Hutzenthaler,M.,Jentzen,A.,Kruse,T.:通过截断的全历史递归多级Picard近似克服Allen-Cahn偏微分方程数值近似中的维数灾难。arXiv:1907.06729(2019)
[4] 贝克尔,S。;切里迪托,P。;Jentzen,A.,深度最佳停车,J.Mach。学习。Res.,20,74,1-25(2019)·Zbl 1495.60029号
[5] Berner,J.,Grohs,P.,Jentzen,A.:泛化误差分析:深度人工神经网络的经验风险最小化克服了Black-Scholes偏微分方程数值逼近中的维数灾难。arXiv:1809.03062,(2018)
[6] E、 W。;Han,J。;Jentzen,A.,基于深度学习的高维抛物型偏微分方程和倒向随机微分方程数值方法,Commun。数学。Stat.,5,4,349-380(2017)·Zbl 1382.65016号 ·doi:10.1007/s40304-017-0117-6
[7] E、 W.,Hutzenthaler,M.,Jentzen,A.,Kruse,T.:求解光滑半线性抛物型热方程的多级Picard迭代。arXiv:1607.03295,(2016)
[8] E、 W。;Hutzenthaler,M。;Jentzen,A。;Kruse,T.,《关于高维非线性抛物型偏微分方程和高维非线性倒向随机微分方程的多级Picard数值逼近》,J.Sci。计算。,79, 3, 1534-1571 (2019) ·Zbl 1418.65149号 ·doi:10.1007/s10915-018-00903-0
[9] E、 W。;Yu,B.,The deep Ritz method:一种基于深度学习的数值算法,用于求解变分问题,Commun。数学。统计,6,1,1-12(2018)·Zbl 1392.35306号 ·数字对象标识代码:10.1007/s40304-018-0127-z
[10] Elbrächter,D.,Grohs,P.,Jentzen,A.,Schwab,C.:高维PDE的DNN表达率分析:应用于期权定价。arXiv:1809.07669,(2018)
[11] Fujii,M.、Takahashi,A.和Takahahi,M.:渐进扩展作为高维BSDE深度学习方法中的先验知识。arXiv:1710.07030,(2017)·Zbl 1422.91694号
[12] Giles,M.,Jentzen,A.,Welti,T.:广义多级Picard近似。arXiv:1911.03188,(2019年)
[13] Grohs,P.,Hornung,F.,Jentzen,A.,von Wursemberger,P.:证明人工神经网络在Black-Scholes偏微分方程的数值逼近中克服了维数灾难。内存。美国数学。Soc.arxiv:1809.02362(2020)
[14] Han,J。;Jentzen,A。;E、 W.,使用深度学习求解高维偏微分方程,Proc。国家。阿卡德。科学。,115, 34, 8505-8510 (2018) ·Zbl 1416.35137号 ·doi:10.1073/pnas.1718942115
[15] Henry-Laborder,P.L.:BSDE的深度原对偶算法:机器学习在CVA和IM中的应用。SSRN提供:https://ssrn.com/abstract=3071506, (2017)
[16] Hutzenthaler,M.,Jentzen,A.,Kruse,T.:克服具有梯度相关非线性的抛物型偏微分方程数值逼近中的维数诅咒。arXiv:1912.02571,(2019)
[17] Hutzenthaler,M.,Jentzen,A.,Kruse,T.,Nguyen,T.A.,von Wurstemberger,P.:克服半线性抛物型偏微分方程数值逼近中的维数灾难。arXiv:1807.01212,(2018)
[18] Hutzenthaler,M.,Jentzen,A.,von Wurstemberger,P.:克服具有违约风险的金融衍生品近似定价中的维度诅咒。电子。J.概率。arXiv:1903.05985,(2019)
[19] Hutzenthaler,M.,Kruse,T.:具有梯度相关非线性的高维半线性抛物型微分方程的多级Picard近似。SIAM J.数字。分析arxiv:1711.01080(2020)
[20] Jentzen,A.,Salimova,D.,Welti,T.:深度人工神经网络在具有常数扩散和非线性漂移系数的Kolmogorov偏微分方程的数值逼近中克服维数灾难的证明。arXiv:1809.07321,(2018)
[21] Khoo,Y.,Lu,J.,Ying,L.:用人工神经网络解决参数PDE问题。arXiv:1707.03351,(2017)
[22] Mishra,S.:用于数据驱动的微分方程计算加速的机器学习框架。arXiv:1807.09519,(2018)
[23] Nabian,M.A.,Meidani,H.:高维随机偏微分方程的深层神经网络替代物。arXiv:1806.02957,(2018)
[24] Raissi,M.:前向随机神经网络:高维偏微分方程的深度学习。arXiv:1804.07010(2018)
[25] 西里尼亚诺,J。;Spiliopoulos,K.,Dgm:解偏微分方程的深度学习算法,J.Compute。物理。,375, 1339-1364 (2018) ·兹比尔1416.65394 ·doi:10.1016/j.jcp.2018.08.029
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。