Solving high-dimensional partial differential equations using deep learning

doi:10.1073/pnas.1718942115

.2018年8月21日；115(34):8505-8510.

doi:10.1073/pnas.1718942115。 Epub 2018年8月6日。

利用深度学习求解高维偏微分方程

杰群·韩¹, 阿努夫·詹岑², 渭南E^三 4 5

附属公司

¹应用和计算数学课程，普林斯顿大学，新泽西州普林斯顿08544。
²瑞士苏黎世联邦理工学院数学系应用数学研讨会，邮编8092。
^三应用和计算数学课程，普林斯顿大学，新泽西州普林斯顿08544；weinan@math.princeton.edu。
⁴普林斯顿大学数学系，新泽西州普林斯顿08544。
⁵北京大数据研究所，北京100871，中国。

PMID： 30082389
预防性维修识别码： PMC6112690型
内政部： 10.1073/pnas.1718942115

利用深度学习求解高维偏微分方程

杰群·韩等。美国国家科学院程序. 2018.

.2018年8月21日；115(34):8505-8510.

doi:10.1073/pnas.1718942115。 Epub 2018年8月6日。

作者

汉族解群¹, 阿努夫·詹岑², 渭南E^三 4 5

附属公司

¹应用和计算数学课程，普林斯顿大学，新泽西州普林斯顿08544。
²瑞士苏黎世联邦理工学院数学系应用数学研讨会，邮编8092。
^三应用和计算数学课程，普林斯顿大学，新泽西州普林斯顿08544；weinan@math.princeton.edu。
⁴普林斯顿大学数学系，新泽西州普林斯顿08544。
⁵北京大数据研究院，北京100871。

PMID： 30082389
预防性维修识别码： PMC6112690型
内政部： 10.1073/pnas.1718942115

摘要

长期以来，由于众所周知的“维数灾难”问题，开发求解高维偏微分方程（PDE）的算法一直是一项非常困难的任务。本文介绍了一种基于深度学习的方法，可以处理一般的高维抛物偏微分方程。为此，使用倒向随机微分方程重新计算偏微分方程，并使用神经网络近似未知解的梯度，非常符合深度强化学习的精神，梯度作为策略函数。在非线性Black-Scholes方程、Hamilton-Jacobi-Bellman方程和Allen-Cahn方程等算例上的数值结果表明，该算法在高维情况下无论在精度还是成本上都是非常有效的。通过同时考虑所有参与主体、资产、资源或粒子，而不是对其相互关系进行特别假设，这为经济学、金融学、运筹学和物理学开辟了可能性。

关键词：Feynman–Kac；倒向随机微分方程；深度学习；高维；偏微分方程。

PubMed免责声明

利益冲突声明

作者声明没有利益冲突。

数字

**图1。**
的绘图 $θ_{{u个}_{0}}$ 近似值为 $u个 (t吨 = 0, x个 = (100, \dots, 100))$ 在 $100$ -一维非线性Black–Scholes方程 $40$ 等距时间步长( $N个 = 40$ )和学习率 $0.008$ 阴影区域表示平均值 $\pm$ 的SD $θ_{{u个}_{0}}$ 近似值为 $u个 (t吨 = 0, x个 = (100, \dots, 100))$ 进行五次独立跑步。深度BSDE方法实现了尺寸的相对误差 $0.46 %$ 在的运行时 $1,607$ 第条。

**图2。**
(顶部)深度BSDE方法的相对误差 $u个 (t吨 = 0, x个 = (0, \dots, 0))$ 什么时候 $λ = 1$ 在 $100$ -尺寸HJB等式。13具有 $20$ 等距时间步长( $N个 = 20$ )和学习率 $0.01$ 阴影区域表示平均值 $\pm$ 五次不同运行的相对误差SD。深度BSDE方法实现了尺寸的相对误差 $0.17 %$ 在运行时 $330$ 第条(底部)最佳成本 $u个 (t吨 = 0, x个 = (0, \dots, 0))$ 针对不同的值 $λ$ 如果是 $100$ -尺寸HJB等式。13，通过深度BSDE方法和经典蒙特卡罗模拟公式。14.

**图3。**
(顶部)深度BSDE方法的相对误差 $u个 (t吨 = 0.3, x个 = (0, \dots, 0))$ 在 $100$ -量纲Allen–Cahn方程。15具有 $20$ 等距时间步长( $N个 = 20$ )和学习率 $0.0005$ 阴影区域表示平均值 $\pm$ 五次不同运行的相对误差SD。深度BSDE方法实现了尺寸的相对误差 $0.30 %$ 在运行时 $647$ 第条(底部)时间演变 $u个 (t吨, x个 = (0, \dots, 0))$ 对于 $t吨 \in [0,0.3]$ 如果是 $100$ -量纲Allen–Cahn方程。15采用深BSDE方法计算。

**图4。**
求解半线性抛物偏微分方程的网络结构图解 $H（H）$ 每个子网的隐藏层和 $N个$ 时间间隔。整个网络 $(H（H） + 1) (N个 - 1)$ 总共包含要同时优化的自由参数的层。每列 $t吨 = {t吨}_{1}, {t吨}_{2}, \dots, {t吨}_{N个 - 1}$ 对应于当时的子网 $t吨$ . ${小时}_{n个}^{1}, \dots, {小时}_{n个}^{H（H）}$ 是子网络中的中间神经元 $t吨 = {t吨}_{n个}$ 对于 $n个 = 1,2, \dots, N个 - 1$ .

请参阅PMC中的此图像和版权信息

类似文章

基于梯度增强物理信息神经网络的二阶网络结构，用于求解抛物型偏微分方程。
孙凯、冯欣。孙凯等。熵（巴塞尔）。2023年4月18日；25(4):674. doi:10.3390/e25040674。熵（巴塞尔）。2023 PMID：37190465 免费PMC文章。
简单方程法（SEsM）：获得非线性微分方程精确解的有效算法。
Vitanov NK公司。维塔诺夫NK。熵（巴塞尔）。2022年11月14日；24(11):1653. doi:10.3390/e2411653。熵（巴塞尔）。2022 PMID：36421510 免费PMC文章。审查。
用于数值计算的内存计算。
赵D、王毅、邵J、陈毅、郭Z、潘C、董刚、周M、吴F、王伟、周K、薛X。 Zhao D等人。微型机械（巴塞尔）。2022年5月2日；13(5):731. doi:10.3390/mi13050731。微型机械（巴塞尔）。2022 PMID：35630198 免费PMC文章。审查。
克服半线性抛物型偏微分方程数值逼近中的维数灾难。
Hutzenthaler M、Jentzen A、Kruse T、Anh Nguyen T、von Wurstemberger P。 Hutzenthaler M等人。数学物理工程科学。2020年12月；476(2244):20190630. doi:10.1098/rspa.2019.0630。Epub 2020年12月16日。数学物理工程科学。2020 PMID：33408553 免费PMC文章。
基于神经网络的路径积分随机最优控制解。
Rajagopal K、Balakrishnan SN、Busemeyer JR。 Rajagopal K等人。 IEEE跨神经网络学习系统。2017年3月；28(3):534-545. doi:10.1109/TNNLS.2016.2544787。 IEEE跨神经网络学习系统。2017 PMID：28212072

查看所有类似文章

引用人

减少医用直线加速器停机时间的持续质量改进项目：浙江省肿瘤医院的案例研究。
陆振鹏、吴毅、毛西德、万HJ、邵J、于庆科、张伟、赵毅、王世青。 Lu QP等人。太阳神。2024年5月3日；10（9）：e30668。doi:10.1016/j.heliyon.2024.e30668。eCollection 2024年5月15日。太阳神。2024 PMID：38774097 免费PMC文章。
探索用于成像和计算的光子神经网络类型——综述。
Khonina SN，Kazanskiy NL，Skidanov RV，Butt MA。 Khonina SN等人。纳米材料（巴塞尔）。2024年4月17日；14(8):697. doi:10.3390/nano14080697。纳米材料（巴塞尔）。2024 PMID：38668191 免费PMC文章。审查。
发展生物圈预测科学需要整合科学文化。
Enquist BJ、Kempes CP、West GB。 Enquist BJ等人。美国国家科学院院刊2024年5月7日；121（19）：e2209196121。doi:10.1073/pnas.2209196121。Epub 2024年4月19日。美国国家科学院院刊，2024年。 PMID：38640256 免费PMC文章。
一种基于物理的机器学习模型，用于描述室温半导体探测器的3D特性。
Banerjee S、Rodrigues M、Ballester M、Vija AH、Katsaggelos AK。 Banerjee S等人。科学报告，2024年4月2日；14(1):7803. doi:10.1038/s41598-024-58027-5。科学报告2024。 PMID：38565586 免费PMC文章。
通过与PSO-NNA混合元神经算法集成的人工神经网络对Lorenz微分方程进行神经计算求解：一项比较研究。
Aslam MN、Aslam MW、Arshad MS、Afzal Z、Hassani MK、Zidan AM、Akgül A。 Aslam MN等人。科学报告，2024年3月29日；14(1):7518. doi:10.1038/s41598-024-56995-2。科学报告2024。 PMID：38553496

查看所有“被引用”文章

工具书类

1. Bellman RE。动态编程。普林斯顿大学出版社；普林斯顿：1957年。
1. Goodfellow I，Bengio Y，Courville A.深度学习。麻省理工学院出版社；马萨诸塞州剑桥市：2016年。
1. LeCun Y、Bengio Y、Hinton G.深度学习。自然。2015;521:436–444.-公共医学
1. Krizhevsky A，Sutskever I，Hinton GE。深度卷积神经网络的Imagenet分类。收件人：Bartlett P、Pereira F、Burges CJC、Bottou L、Weinberger KQ，编辑。神经信息处理系统的进展。第25卷。柯兰联合公司。；纽约州红钩市：2012年。第1097-1105页。
1. Hinton G等人。语音识别中声学建模的深度神经网络：四个研究小组的共同观点。IEEE信号处理杂志2012；29:82–97.

出版物类型

行动
行动

LinkOut-更多资源

全文源
其他文献来源
- 镜片-专利引文
- scite智能引文

[1] Bellman RE。动态编程。普林斯顿大学出版社；普林斯顿：1957年。

[2] Bellman RE。动态编程。普林斯顿大学出版社；普林斯顿：1957年。

[3] Goodfellow I，Bengio Y，Courville A.深度学习。麻省理工学院出版社；马萨诸塞州剑桥市：2016年。

[4] Goodfellow I，Bengio Y，Courville A.深度学习。麻省理工学院出版社；马萨诸塞州剑桥市：2016年。

[5] LeCun Y、Bengio Y、Hinton G.深度学习。自然。2015;521:436–444.-公共医学

[6] LeCun Y、Bengio Y、Hinton G.深度学习。自然。2015;521:436–444.-公共医学

[7] Krizhevsky A，Sutskever I，Hinton GE。深度卷积神经网络的Imagenet分类。收件人：Bartlett P、Pereira F、Burges CJC、Bottou L、Weinberger KQ，编辑。神经信息处理系统的进展。第25卷。柯兰联合公司。；纽约州红钩市：2012年。第1097-1105页。

[8] Krizhevsky A，Sutskever I，Hinton GE。深度卷积神经网络的Imagenet分类。收件人：Bartlett P、Pereira F、Burges CJC、Bottou L、Weinberger KQ，编辑。神经信息处理系统的进展。第25卷。柯兰联合公司。；纽约州红钩市：2012年。第1097-1105页。

[9] Hinton G等人。语音识别中声学建模的深度神经网络：四个研究小组的共同观点。IEEE信号处理杂志2012；29:82–97.

[10] Hinton G等人。语音识别中声学建模的深度神经网络：四个研究小组的共同观点。IEEE信号处理杂志2012；29:82–97.

将引文保存到文件

电子邮件引文

添加到集合

添加到我的书目

您保存的搜索

为外部引文管理软件创建文件

您的RSS源

利用深度学习求解高维偏微分方程

附属公司

利用深度学习求解高维偏微分方程

作者

附属公司

摘要

利益冲突声明

数字

类似文章

引用人

工具书类

出版物类型

LinkOut-更多资源

全文源

其他文献来源

摘要

利益冲突声明

数字

类似文章

引用人

工具书类

出版物类型

相关信息

LinkOut-更多资源

全文源

其他文献来源