克里斯蒂安·贝克;塞巴斯蒂安·贝克尔;帕特里克·切里迪托;阿努尔夫·詹岑;阿里尔·纽菲尔德 抛物线偏微分方程的深度分裂方法。 （英语） Zbl 1501.65054号 SIAM J.科学。计算。 43，5号，A3135-A3154（2021）. 摘要：本文介绍了一种结合算子分裂和深度学习的非线性抛物型偏微分方程（PDE）的数值方法。它将PDE近似问题划分为一系列独立的学习问题。由于每个子问题的计算图形相对较小，因此该方法可以处理极高维的偏微分方程。我们在物理、随机控制和数学金融的不同示例上测试了该方法。在所有情况下，它都能在短时间内在多达10000个维度上产生非常好的结果。 引用于1审查引用于32文件 MSC公司： 65平方米 含偏微分方程初值和初边值问题离散方程的数值解 68T07型 人工神经网络与深度学习 60华氏35 随机方程的计算方法（随机分析方面） 65二氧化碳 蒙特卡罗方法 35K15型 二阶抛物方程的初值问题 35千55 非线性抛物方程 9120国集团 衍生证券（期权定价、对冲等） 91G60型 数值方法（包括蒙特卡罗方法） 93E20型 最优随机控制 关键词：非线性偏微分方程;分裂法;神经网络;深度学习 软件：亚当;PDE-网络;DGM公司 PDF格式BibTeX公司 XML格式引用 \textit{C.Beck}等人，SIAM J.Sci。计算。43，5号，A3135--A3154（2021；Zbl 1501.65054） 全文： 内政部 arXiv公司 参考文献： [1] V.Bally和G.Pagès，解决多维离散时间最优停止问题的量化算法，Bernoulli，9（2003），第1003-1049页·Zbl 1042.60021号 [2] C.Beck、S.Becker、P.Grohs、N.Jaafari和A.Jentzen，通过深度学习解决Kolmogorov PDE，科学杂志。计算。，88 (2021), 73. ·Zbl 1490.65006号 [3] C.Beck，W.E和A.Jentzen，高维完全非线性偏微分方程和二阶倒向随机微分方程的机器学习近似算法，J.非线性科学。，29（2019），第1563-1619页·Zbl 1442.91116号 [4] C.Beck、M.Hutzenthaler、A.Jentzen和B.Kuckuck，基于深度学习的偏微分方程近似方法概述，预印本，https://arxiv.org/abs/2012.12348, 2020. [5] S.Becker、R.Braunwarth、M.Hutzenthaler、A.Jentzen和P.von Wurstemberger，高维偏微分方程系统的全历史递归多级Picard近似的数值模拟，Commun。计算。物理。，28（2020年），第2109-2138页·Zbl 1473.65251号 [6] S.Becker、P.Cheridito和A.Jentzen，深度最佳停车，J.Mach。学习。决议，20（2019），74·Zbl 1495.60029号 [7] C.Bender和R.Denk，反向SDE的正向方案，随机过程。申请。，117（2007），第1793-1812页·Zbl 1131.60054号 [8] C.Bender、N.Schweizer和J.Zhuo，BSDEs的一种原对偶算法，数学。《金融》，27（2017），第866-901页·Zbl 1423.91008号 [9] Y.Bengio，《学习人工智能的深层架构》，Found。趋势马赫数。学习。，2（2009年），第1-127页·Zbl 1192.68503号 [10] J.Berg和K.Nystroõm，复杂几何中偏微分方程的统一深度人工神经网络方法，神经计算，317（2018），第28-41页。 [11] J.Berner、P.Grohs和A.Jentzen，《泛化误差分析：深度人工神经网络的经验风险最小化克服了Black-Scholes偏微分方程数值逼近中的维数灾难》，SIAM J.Math。数据科学。，2（2020年），第631-657页，https://doi.org/10.1137/19M125649X。 ·Zbl 1480.60191号 [12] B.Bouchard和N.Touzi，离散时间近似和向后随机微分方程的蒙特卡罗模拟，随机过程。申请。，111（2004），第175-206页·Zbl 1071.60059号 [13] D.Braess，《有限元：弹性理论中的理论、快速求解和应用》，第三版，剑桥大学出版社，英国剑桥，2007年·Zbl 1180.65146号 [14] Q.Chan-Wai-Nam、J.Mikael和X.Warin，《半线性偏微分方程的机器学习》，J.Sci。计算。，79（2019），第1667-1712页·Zbl 1433.68332号 [15] J.-F.Chassagneux，BSDE的线性多步方案，SIAM J.Numer。分析。，52（2014），第2815-2836页，https://doi.org/10.1137/120902951。 ·Zbl 1326.65017号 [16] J.-F.Chassagneux和D.Crisan，倒向随机微分方程的Runge-Kutta格式，Ann.Appl。概率。，24（2014），第679-720页·Zbl 1303.60045号 [17] J.-F.Chassagneux和A.Richou，BSDEs欧拉格式的数值稳定性分析，SIAM J.Numer。分析。，53（2015），第1172-1193页，https://doi.org/10.1137/140977047。 ·Zbl 1311.93088号 [18] J.-F.Chassagneux和A.Richou，二次BSDEs的数值模拟，Ann.Appl。概率。，26（2016），第262-304页·Zbl 1334.60129号 [19] D.Crisan和K.Manolarakis，半线性偏微分方程的概率方法。金融应用，M2AN数学。模型。数字。分析。，44（2010年），第1107-1133页·Zbl 1210.65011号 [20] D.Crisan和K.Manolarakis，用容积法求解倒向随机微分方程：非线性定价的应用，SIAM J.金融数学。，3（2012），第534-571页，https://doi.org/10.1137/090765766。 ·Zbl 1259.65005号 [21] D.Crisan和K.Manolarakis，反向SDE的二阶离散化和用容积法模拟，Ann.Appl。概率。，24（2014），第652-678页·Zbl 1303.60046号 [22] D.Crisan、K.Manolarakis和N.Touzi，关于BSDE的蒙特卡罗模拟：对Malliavin权重的改进，随机过程。申请。，120（2010年），第1133-1158页·Zbl 1193.65005号 [23] T.Deck和S.Kruse，系数无界的抛物型微分方程——参数矩阵方法的推广，Acta Appl。数学。，74（2002），第71-91页·兹比尔1021.35042 [24] F.Delarue和S.Menozzi，拟线性偏微分方程的前向-后向随机算法，Ann.Appl。概率。，16（2006），第140-184页·Zbl 1097.65011号 [25] P.Doörsek，随机Navier-Stokes方程的半群分裂和容积近似，SIAM J.Numer。分析。，50（2012），第729-746页，https://doi.org/10.1137/10833841。 ·Zbl 1247.60090号 [26] J.Douglas，Jr.、J.Ma和P.Protter，前向随机微分方程的数值方法，Ann.Appl。概率。，6（1996），第940-968页·Zbl 0861.65131号 [27] W.E、J.Han和A.Jentzen，基于深度学习的高维抛物型偏微分方程和倒向随机微分方程数值方法，Commun。数学。《统计》，第5卷（2017年），第349-380页·Zbl 1382.65016号 [28] W.E、M.Hutzenthaler、A.Jentzen和T.Kruse，求解光滑半线性抛物型热方程的多级Picard迭代，偏微分。埃克。申请。，出现·Zbl 1418.65149号 [29] W.E、M.Hutzenthaler、A.Jentzen和T.Kruse，《关于高维非线性抛物型偏微分方程和高维非线性倒向随机微分方程的多级Picard数值逼近》，J.Sci。计算。，79（2019），第1534-1571页·Zbl 1418.65149号 [30] W.E和B.Yu，《深层Ritz方法：一种基于深度学习的数值算法，用于求解变分问题》，Commun。数学。《统计》第6卷（2018年），第1-12页·Zbl 1392.35306号 [31] D.Elbraáchter、P.Grohs、A.Jentzen和C.Schwab，高维PDE的DNN表达率分析：期权定价应用，Constr。约，（2021），https://doi.org/10.1007/s00365-021-09541-6。 ·Zbl 1500.35009 [32] A.-m.Farahmand、S.Nabi和D.N.Nikovski，偏微分方程控制的深度强化学习，《美国控制会议论文集》，2017年，第3120-3127页。 [33] M.Fujii、A.Takahashi和M.Takahahi，高维BSDE深度学习方法中的先验知识渐近展开，亚洲-太平洋。，26（2019），第391-408页·Zbl 1422.91694号 [34] X.Glrot和Y.Bengio，《理解深度前馈神经网络训练的困难》，载《第十三届国际人工智能与统计会议论文集》，2010年，第249-256页。 [35] E.Gobet和C.Labart，用自适应控制变量求解BSDE，SIAM J.Numer。分析。，48（2010），第257-277页，https://doi.org/10.1137/090755060。 ·Zbl 1208.60055号 [36] E.Gobet和J.-P.Lemor，使用经验回归方法对BSDEs进行数值模拟：理论与实践，预印本，https://arxiv.org/abs/0806.4447, 2008. [37] E.Gobet、J.-P.Lemor和X.Warin，基于回归的蒙特卡罗方法求解倒向随机微分方程，Ann.Appl。探针。，15（2005），第2172-2202页·Zbl 1083.60047号 [38] E.Gobet、J.G.Loípez-Salas、P.Turkedjiev和C.Vaízquez，GPU上大规模并行化的半线性PDE和BSDE的分层回归Monte-Carlo方案，SIAM J.Sci。计算。，38（2016），第C652-C677页，https://doi.org/10.1137/16M106371X。 ·兹比尔1352.65008 [39] E.Gobet和P.Turkedjiev，使用Malliavin权重和最小二乘回归逼近倒向随机微分方程，Bernoulli，22（2016），第530-562页·Zbl 1339.60094号 [40] E.Gobet和P.Turkedjiev，一般条件下离散倒向随机微分方程的线性回归MDP格式，数学。公司。，85（2016），第1359-1391页·Zbl 1344.60067号 [41] L.Goudenege、A.Molent和A.Zanette，高维马尔科夫和非马尔科夫模型中美式期权定价的机器学习，Quant。《金融》，20（2020），第573-591页·Zbl 1466.91339号 [42] W.Grecksch和H.Lisei，用分裂方法逼近薛定谔型随机非线性方程，随机分析。申请。，31（2013），第314-335页·Zbl 1271.60073号 [43] P.Grohs、F.Hornung、A.Jentzen和P.von Wurstemberger，人工神经网络在Black-Scholes偏微分方程数值逼近中克服维数灾难的证明，Mem。阿默尔。数学。Soc.，出现·Zbl 07679303号 [44] I.Gyoángy和N.Krylov，《关于SPDE分裂近似的收敛速度》，载于《随机不等式与应用》，Birkhauser，巴塞尔，2003年，第301-321页·Zbl 1038.60057号 [45] I.Gyoñngy和N.Krylov，《关于分裂方法和随机偏微分方程》，Ann.Probab。，31（2003），第564-591页·Zbl 1028.60058号 [46] M.Hairer、M.Hutzenthaler和A.Jentzen，Kolmogorov方程的正则性损失，Ann.Probab。，43（2015），第468-527页·Zbl 1322.35083号 [47] J.Han、A.Jentzen和W.E，使用深度学习求解高维偏微分方程，Proc。国家。阿卡德。科学。美国，115（2018），第8505-8510页·Zbl 1416.35137号 [48] J.Han和J.Long，耦合FBSDE的深BSDE方法的收敛性，Probab。不确定。数量。风险，5（2020），第1-33页·Zbl 1454.60105号 [49] P.Henry-Labordère，《交易对手风险评估：标记分支扩散法》，预印本，https://arxiv.org/abs/203.2369, 2012. [50] P.Henry-Laborder，《BSDEs的深原对偶算法：机器学习在CVA和IM中的应用》，预印本，SSRN-id30715062017年。 [51] P.Henry-Labordère、N.Oudjane、X.Tan、N.Touzi和X.Warin，半线性偏微分方程的分支扩散表示和蒙特卡罗近似，Ann.Inst.Henri PoincareProbab。《统计》，55（2019），第184-210页·Zbl 1467.60067号 [52] P.Henry-Labordère，X.Tan，and N.Touzi，一类BSDEs的数值算法，通过分支过程，随机过程。申请。，124（2014），第1112-1140页·Zbl 1301.60084号 [53] T.P.Huijskens、M.J.Ruijter和C.W.Oosterlee，耦合前向背向SDE的高效数值傅里叶方法，J.Compute。申请。数学。，296（2016），第593-612页·Zbl 1336.65010号 [54] C.Huré，H.Pham和X.Warin，《高维非线性偏微分方程的一些机器学习方案》，预印本，https://arxiv.org/abs/11902.01599v1, 2019. ·Zbl 1440.60063号 [55] M.Hutzenthaler、A.Jentzen、T.Kruse和T.A.Nguyen，关于修正深度神经网络克服半线性热方程数值近似中维数灾难的证明，偏微分。埃克。申请。，1（2020年），第1-34页·Zbl 1455.65200元 [56] M.Hutzenthaler、A.Jentzen、T.Kruse、T.A.Nguyen和P.von Wurstemberger，克服半线性抛物型偏微分方程数值逼近中的维数灾难，Proc。A、 476（2020），20190630·Zbl 1469.60220号 [57] M.Hutzenthaler、A.Jentzen和P.von Wurstemberger，克服具有违约风险的金融衍生品近似定价中的维度诅咒，Electron。J.概率。，25（2020年），第1-73页·Zbl 1469.60220号 [58] M.Hutzenthaler和T.Kruse，具有梯度相关非线性的高维半线性抛物型微分方程的多级Picard逼近，SIAM J.Numer。分析。，58（2020年），第929-961页，https://doi.org/10.1137/17M1157015。 [59] S.Ioffe和C.Szegedy，《批量规范化：通过减少内部协变量偏移来加速深层网络训练》，预印本，https://arxiv.org/abs/1502.03167，2015年。 [60] A.Jacquier和M.Oumgari，粗局部随机波动的深度PPDEs，预印本，https://arxiv.org/abs/1906.02551v1，2019年。 [61] A.Jentzen、D.Salimova和T.Welti，证明深度人工神经网络在具有常数扩散和非线性漂移系数的Kolmogorov偏微分方程的数值逼近中克服了维数灾难，Commun。数学。科学。，19（2021），第1167-1205页·Zbl 1475.65157号 [62] D.Kingma和J.Ba，Adam：随机优化方法，预印本，https://arxiv.org/abs/1412.6980, 2014. [63] A.Klenke，《概率论：综合课程》，第二版，Universitext，Springer，伦敦，2014年·Zbl 1295.60001号 [64] P.E.Kloeden和E.Platen，随机微分方程的数值解，应用。数学。（纽约）23，施普林格-弗拉格，柏林，1992年·Zbl 0752.60043号 [65] N.V.Krylov，霍尔德空间中椭圆和抛物方程讲座，Grad。学生数学。12，美国数学学会，普罗维登斯，RI，1996年·Zbl 0865.35001号 [66] N.V.Krylov，《关于有限维扩散的Kolmogorov方程》，收录于《无限维随机PDE方程和Kolmogoriv方程》（Cetraro，1998），数学课堂讲稿。1715年，施普林格，柏林，1999年，第1-63页·Zbl 0943.60070号 [67] G.Kutyniok、P.Petersen、M.Raslan和R.Schneider，深度神经网络和参数PDE的理论分析，https://arxiv.org/abs/1904.00377，2019年。 [68] C.Labart和J.Lelong，求解BSDEs的并行算法，蒙特卡罗方法应用。，19（2013），第11-39页·兹比尔1263.65005 [69] S.Larsson和V.Thomeíe，偏微分方程与数值方法，文本应用。数学。柏林斯普林格·弗拉格45号，2003年·Zbl 1025.65002号 [70] Y.LeCun、Y.Bengio和G.Hinton，《深度学习》，《自然》，521（2015），第436-444页。 [71] J.-P.Lemor、E.Gobet和X.Warin，求解广义倒向随机微分方程的经验回归方法的收敛速度，Bernoulli，12（2006），第889-916页·Zbl 1136.60351号 [72] A.Lionnet、G.dos Reis和L.Szpruch，具有多项式增长驱动和反应扩散PDE的FBSDE的时间离散化，Ann.Appl。概率。，25（2015），第2563-2625页·Zbl 1342.65011号 [73] Z.Long，Y.Lu，X.Ma，B.Dong，PDE-Net:从数据中学习PDE，《机器学习国际会议论文集》，2018年，第3208-3216页。 [74] K.O.Lye、S.Mishra和D.Ray，《计算流体动力学中的深度学习观察》，J.Compute。物理。，410 (2020), 109339. ·Zbl 1436.76051号 [75] J.Ma、P.Protter、J.San Martiín和S.Torres，《反向随机微分方程的数值方法》，Ann.Appl。概率。，12（2002），第302-316页·Zbl 1017.60074号 [76] J.Ma、P.Protter和J.M.Yong，显式求解前向随机微分方程-四步方案，Probab。理论相关领域，98（1994），第339-359页·Zbl 0794.60056号 [77] 马建华，杨建华，前向随机微分方程及其应用，数学课堂讲稿。1702年，柏林斯普林格·弗拉格，1999年·Zbl 0927.60004号 [78] M.Magill、F.Qureshi和H.de Haan，《训练用于求解微分方程的神经网络学习一般表示法》，麻省理工学院出版社，马萨诸塞州剑桥，2018年，第4075-4085页。 [79] G.Maruyama，连续马尔可夫过程和随机方程，Rend。循环。马特·巴勒莫（2），4（1955），第48-90页·Zbl 0053.40901号 [80] H.P.McKean，布朗运动在Kolmogorov-Petrovskii-Piskunov方程中的应用，Comm.Pure Appl。数学。，28（1975年），第323-331页·Zbl 0316.35053号 [81] G.N.Mil’shtein，随机微分方程的近似积分，理论概率。申请。，19（1975年），第557-562页，https://doi.org/10.1137/1119062。 ·Zbl 0314.60039号 [82] G.N.Milstein和M.V.Tretyakov，前向随机微分方程的数值算法，SIAM J.Sci。计算。，28（2006），第561-582页，https://doi.org/10.1137/040614426。 ·兹比尔1114.60054 [83] G.N.Milstein和M.V.Tretyakov，前向-后向随机微分方程和相关拟线性抛物型方程的离散化，IMAJ.Numer。分析。，27（2007），第24-44页·Zbl 1109.65009号 [84] G.N.Milstein和M.V.Tretyakov，通过特征平均解抛物型随机偏微分方程，数学。公司。，78（2009），第2075-2106页·Zbl 1198.65033号 [85] H.Pham，Feynman-Kac完全非线性偏微分方程的表示及其应用，《数学学报》。越南。，40（2015），第255-269页·Zbl 1322.60133号 [86] M.Raissi，《深层隐藏物理模型：非线性偏微分方程的深层学习》，J.Mach。学习。第19号决议（2018年），第932-955页·Zbl 1439.68021号 [87] M.J.Ruijter和C.W.Oosterlee，高效计算BSDEs解的傅里叶余弦方法，SIAM J.Sci。计算。，37（2015），第A859-A889页，https://doi.org/10.1137/10913183。 ·Zbl 1314.65011号 [88] M.J.Ruijter和C.W.Oosterlee，金融中反向SDE的数值傅里叶方法和二阶泰勒格式，应用。数字。数学。，103（2016），第1-26页·Zbl 1386.91166号 [89] A.Ruszczynski和J.Yao，用于风险评估的倒向随机微分方程的对偶方法，预印本，https://arxiv.org/abs/1701.06234, 2017. [90] J.Sirignano和K.Spiliopoulos，DGM：解偏微分方程的深度学习算法，J.Compute。物理。，375（2018），第1339-1364页·兹比尔1416.65394 [91] V.V.Skorokhod，分支扩散过程，理论概率。申请。，9（1964年），第445-449页，https://doi.org/10.1137/1109059。 ·Zbl 0264.60058号 [92] D.W.Strock，塔塔研究所基金会随机微分方程专题讲座。数学研究讲座。和物理。68，塔塔基础研究所，孟买；施普林格·弗拉格，柏林，纽约，1982年·Zbl 0516.60065号 [93] V.Thomée，抛物问题的Galerkin有限元方法，Springer Ser。计算。数学。25，施普林格·弗拉格，柏林，1997年·Zbl 0884.65097号 [94] P.Turkedjiev，局部条件下Markovian倒向随机微分方程离散时间近似的两种算法，Electron。J.概率。，20 (2015), 50. ·Zbl 1322.60139号 [95] S.Watanabe，关于具有吸收边界的布朗粒子的分支过程，数学杂志。京都大学，第4期（1965年），第385-398页·Zbl 0134.34401号 [96] J.Zhang，BSDEs的数值格式，Ann.Appl。概率。，14（2004），第459-488页·Zbl 1056.60067号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。