×
盛海龙;杨超

PFNN-2：一种解偏微分方程的区域分解无惩罚神经网络方法。 （英语） Zbl 1498.65155号

Commun公司。计算。物理学。 32，第4号，980-1006（2022）.
摘要：提出了一种新的无惩罚神经网络方法PFNN-2，用于求解偏微分方程，这是我们先前提出的PFNN方法的后续改进[H.Sheng先生和C.杨，J.计算。物理学。428，文章ID 110085，13 p.（2021；Zbl 07511439号)]. PFNN-2继承了PFNN在处理复杂几何自共轭问题的光滑约束和基本边界条件方面的所有优点，并将其应用扩展到更广泛的非自共轭含时微分方程。此外，PFNN-2引入了重叠区域分解策略，在不牺牲精度的情况下大幅提高了训练效率。在一系列偏微分方程上的实验结果表明，PFNN-2在数值精度、收敛速度和并行可扩展性等方面都优于现有的神经网络方法。

引用于三文件

MSC公司：

65米55 多重网格方法；涉及偏微分方程初值和初边值问题的区域分解
35K55型 非线性抛物方程
65M60毫米 涉及偏微分方程初值和初边值问题的有限元、Rayleigh-Ritz和Galerkin方法
68T07型 人工神经网络与深度学习

关键词：

神经网络;免罚款方法;区域分解;初边值问题;偏微分方程

引文：

Zbl 07511439号

软件：

张量差值等式;NSF网络;DGM公司;SimNet公司;DeepONet（深度网络）;300万;VarNet公司;hp-车辆识别号;PhyGeoNet（物理地理网）;L-BFGS公司;XPIN编号;PDE-网络;ADS地震
PDF格式BibTeX公司 XML格式引用
\textit{H.Sheng}和\textit{C.Yang}，Commun。计算。物理学。32，第4号，980--1006（2022；Zbl 1498.65155）
全文： DOI程序 arXiv公司

参考文献：

[1] H.Sheng，C.Yang，PFNN:解决复杂几何上一类二阶边值问题的无惩罚神经网络方法，计算物理杂志，428（2021）110085·Zbl 07511439号
[2] M.Raissi，A.Yazdani，G.E.Karniadakis，《隐藏流体力学：从流动可视化中学习速度和压力场》，《科学》，367（2020）1026-1030·Zbl 1478.76057号
[3] X.Jin，S.Cai，H.Li，G.E.Karniadakis，NSFnets（Navier-Stokes流网）：不可压缩Navier-Stokes方程的物理信息神经网络，计算物理杂志，426（2021）109951·Zbl 07510065号
[4] O.Hennigh，S.Narasimhan，M.A.Nabian，A.Subramaniam，K.Tangsali，Z.Fang，M.Ri-etmann，W.Byeon，S.Choudhry，NVIDIA SimNet TM:人工智能加速多物理模拟框架，收录于：国际计算科学会议，施普林格，2021年，第447-461页。
[5] J.Han，A.Jentzen，W.E，《利用深度学习求解高维偏微分方程》，《国家科学院学报》，115（2018）8505-8510·Zbl 1416.35137号
[6] C.Beck，W.E，A.Jentzen，高维全非线性偏微分方程和二阶倒向随机微分方程的机器学习近似算法，《非线性科学杂志》，29（2019）1563-1619·Zbl 1442.91116号
[7] D.Pfau，J.S.Spencer，A.G.Matthews，W.M.C.Foulkes，多电子Schröodinger方程与深度神经网络的从头算解，物理评论研究，2（2020）033429。
[8] T.M.Razakh，B.Wang，S.Jackson，R.K.Kalia，A.Nakano，K.-i.Nomura，P.Vashishta，PND：分子动力学应用的物理信息神经网络软件，SoftwareX，15（2021）100789。
[9] K.Shukla，P.C.Di Leoni，J.Blackshire，D.Sparkman，G.E.Karniadakis，《表面断裂裂纹超声无损定量物理信息神经网络》，《无损评估杂志》，39（2020）1-20。
[10] D.Li，K.Xu，J.M.Harris，E.Darve，利用侵入式自动微分法对地下水流问题进行耦合延时全波形反演，水资源研究，56（2020）e2019WR027032。
[11] W.Zhu，K.Xu，E.Darve，G.C.Beroza，《自动微分地震反演的一般方法》，计算机与地球科学，151（2021）104751。
[12] H.Lee，I.S.Kang，解微分方程的神经算法，计算物理杂志，91（1990）110-131·Zbl 0717.65062号
[13] A.J.Meade Jr，A.A.Fernandez，线性常微分方程的前馈神经网络数值解，数学与计算机建模，19（1994）1-25·Zbl 0807.65079号
[14] B.P.van Milligen，V.Tribaldos，J.Jiménez，神经网络微分方程和血浆平衡求解器，《物理评论快报》，75（1995）3594。
[15] I.E.Lagaris，A.Likas，D.I.Fotiadis，求解常微分方程和偏微分方程的人工神经网络，IEEE神经网络汇刊，9（1998）987-1000。
[16] I.E.Lagaris，A.C.Likas，D.G.Papageorgiou，不规则边界边值问题的神经网络方法，IEEE神经网络学报，11（2000）1041-1049。
[17] K.S.McFall，J.R.Mahan，求解精确满足任意边界条件的有界值问题的人工神经网络方法，IEEE神经网络学报，20（2009）1221-1233。
[18] K.S.McFall，求解不连续耦合偏微分方程的神经网络自动设计参数选择，富兰克林研究所杂志，350（2013）300-317·Zbl 1278.93117号
[19] M.Raissi，P.Perdikaris，G.E.Karniadakis，《基于物理的神经网络：解决非线性偏微分方程正问题和逆问题的深度学习框架》，《计算物理杂志》，378（2019）686-707·Zbl 1415.68175号
[20] G.E.Karniadakis、I.G.Kevrekidis、L.Lu、P.Perdikaris、S.Wang、L.Yang，《物理信息机器学习》，《自然评论物理学》，（2021）1-19。
[21] W.E，B.Yu，《Deep Ritz方法：解决变分问题的基于深度学习的数值算法》，《数学与统计通信》，6（2018）1-12·Zbl 1392.35306号
[22] Z.Long，Y.Lu，B.Dong，PDE-Net 2.0：利用数字符号混合深度网络从数据中学习PDE，计算物理杂志，399（2019）108925·Zbl 1454.65131号
[23] Z.Li，N.Kovachki，K.Azizzadenesheli，B.Liu，K.Bhattacharya，A.Stuart，A.Anand-kumar，参数偏微分方程的傅里叶神经算子，arXiv预印本，arXiv:2010.08895（2020）。
[24] Y.Chen，B.Dong，J.Xu，《Meta-magnet:求解参数化偏微分方程的Meta多重网格网络》，arXiv预印本，arXiv:2010.14088（2020）。
[25] L.Lu，P.Jin，G.Pang，Z.Zhang，G.E.Karniadakis，基于算子的泛逼近定理通过DeepONet学习非线性算子，自然机器智能，3（2021）218-229。
[26] J.He，L.Li，J.Xu，C.Zheng，ReLU深度神经网络和线性有限元，计算数学杂志（2019）。
[27] W.E，《机器学习与计算数学》，arXiv预印本，arXiv:2009.14596（2020）。
[28] J.A.Opschoor，P.C.Petersen，C.Schwab，《Deep ReLU网络和高阶有限元方法，分析与应用》，18（2020）715-770·兹比尔1452.65354
[29] G.Kutyniok，P.Petersen，M.Raslan，R.Schneider，深度神经网络和参数偏微分方程的理论分析，构造逼近，（2021）1-53。
[30] P.Ming，Y.Liao，Deep Nitsche方法：具有基本边界条件的Deep Ritz方法，计算物理通信，29（2021）1365-1384·Zbl 1473.65309号
[31] R.Khodayi-Mehr，M.Zavlanos，VarNet:偏微分方程解的变分神经网络，摘自：《动力学与控制学习》，2020年，第298-307页。
[32] E.Kharazmi，Z.Zhang，G.E.Karniadakis，变分物理信息神经网络求解偏微分方程，arXiv预印本，arXiv:1912.00873（2019）。
[33] E.Kharazmi，Z.Zhang，G.E.Karniadakis，hp-VPINNs:带区域分解的变分物理信息神经网络，arXiv预印本，arXiv:2003.05385（2020）。
[34] Zang Y.Zang，G.Bao，X.Ye，H.Zhou，高维偏微分方程的弱对抗网络，计算物理杂志（2020）109409·Zbl 1436.65156号
[35] 刘振华，杨彦，蔡庆德，用约束多层前馈网络求解微分方程，arXiv预印本，arXiv:1904.06619（2019）。
[36] L.Lyu，K.Wu，R.Du，J.Chen，在深度混合残差法中实施精确边界和初始条件，arXiv预印本，arXiv:2008.01491（2020）。
[37] S.Wang，Y.Teng，P.Perdikaris，理解和缓解物理信息神经网络中的梯度病理，arXiv预印本，arXiv:2001.04536（2020）。
[38] A.D.Jagtap，K.Kawaguchi，G.E.Karniadakis，自适应激活函数加速深度和物理信息神经网络的收敛，《复合物理杂志》，404（2020）109136·Zbl 1453.68165号
[39] H.Gao，L.Sun，J.-X.Wang，PhyGeoNet:用于求解非均匀域上参数化稳态PDE的基于物理的几何自适应con-volution神经网络，计算物理杂志，428（2021）110079·兹伯利07511433
[40] H.Gao，L.Sun，J.-X.Wang，使用无高分辨率标签的基于物理的卷积神经网络对流体流动进行超分辨率和去噪，流体物理学，33（2021）073603。
[41] M.A.Nabian，R.J.Gladstone，H.Meidani，通过重要性抽样对物理信息神经网络进行有效训练，计算机辅助土木和基础设施工程，（2021年）。
[42] C.L.Wight，J.Zhao，使用自适应物理信息神经网络求解Allen-Cahn和Cahn-Hilliard方程，arXiv预印本，arXiv:2007.04542（2020）。
[43] J.C.Strikwerda，《有限差分格式和偏微分方程》，SIAM，2004年·Zbl 1071.65118号
[44] K.-J.Bathe，《有限元程序》，Klaus-Jurgen Bathe出版社，2006年。
[45] R.Eymard，T.GallouöT，R.Herbin，有限体积法，数值分析手册，7（2000）713-1018·Zbl 0981.65095号
[46] L.D.McClenny，M.A.Haile，U.M.Braga-Neto，TensorDiffEq:物理信息神经网络的可伸缩多GPU正向和反向解算器，arXiv预印本，arXiv:2103.16034（2021）。
[47] T.Ben-Nun，T.Hoefler，《解密并行和分布式深度学习：深度并发分析》，ACM计算调查（CSUR），52（2019）1-43。
[48] A.Farkas，G.Kertész，R.Lovas，深度神经网络的并行和分布式训练：简要概述，收录于：2020年IEEE第24届智能工程系统国际会议，IEEE，2020年，第165-170页。
[49] K.Chang，N.Balachandar，C.Lam，D.Yi，J.Brown，A.Beers，B.Rosen，D.L.Rubin，J.Kalpathy-Cramer，《医学成像机构间分布式深度学习网络》，《美国医学信息学协会杂志》，25（2018）945-954。
[50] J.Chen，K.Li，Q.Deng，K.Li，S.Y.Philip，带边缘计算的智能视频监控系统分布式深度学习模型，IEEE工业信息学汇刊，（2019）。
[51] W.Zhang，X.Cui，U.Finkler，B.Kingsbury，G.Saon，D.Kung，M.Picheny，自动语音识别的分布式深度学习策略，收录于：ICASSP 2019-2019 IEEE声学、语音和信号处理国际会议（ICASSP），IEEE，2019，第5706-5710页。
[52] H.Wu，Z.Z.Zhang，C.Guan，K.Wolter，M.Xu，《协作边缘和云计算与智能城市物联网的分布式深度学习》，IEEE物联网杂志，7（2020）8099-8110。
[53] B.F.Smith，P.E.Björstad，W.D.Gropp，区域分解：椭圆偏微分方程的并行多级方法，1996年·Zbl 0857.65126号
[54] 李文华，项晓霞，徐永元，深层域分解法：椭圆问题，载《数学与科学机器学习》，PMLR，2020年，第269-286页。
[55] V.Mercier，S.Gratton，P.Boudier，《Deep-DDM的粗糙空间加速》，arXiv预印本，arXiv:2112.03732（2021）。
[56] K.Li，K.Tang，T.Wu，Q.Liao，D3M：偏微分方程的深域分解方法，IEEE Access（2019）。
[57] A.D.Jagtap、E.Kharazmi、G.E.Karniadakis，守恒定律离散域上的守恒物理信息神经网络：正问题和逆问题的应用，应用力学和工程中的计算机方法，365（2020）113028·Zbl 1442.92002号
[58] A.D.Jagtap，G.E.Karniadakis，《扩展物理信息神经网络（XPINNs）：基于广义时空域分解的非线性偏微分方程深度学习框架》，《计算物理通信》，28（2020）2002-2041·Zbl 07419158号
[59] K.Shukla，A.D.Jagtap，G.E.Karniadakis，通过区域分解的并行物理信息神经网络，arXiv预印本，arXiv:2104.10013（2021）。
[60] Z.Hu，A.D.Jagtap，G.E.Karniadakis，K.Kawaguchi，扩展物理信息神经网络（XPINN）何时能提高泛化能力？，arXiv预印本，arXiv:2109.09444（2021）。
[61] A.D.Jagtap，Z.Mao，N.Adams，G.E.Karniadakis，超音速流动逆问题的物理信息神经网络，arXiv预印本，arXiv:22022.11821（2022）。
[62] T.De Ryck，A.D.Jagtap，S.Mishra，物理知情神经网络近似Navier-Stokes方程的误差估计，arXiv预印本，arXiv:2203.099346（2022）。
[63] J.Sirignano，K.Spiliopoulos，DGM：求解偏微分方程的深度学习算法，《计算物理学杂志》，375（2018）1339-1364·兹比尔1416.65394
[64] Z.Wang，Z.Z.Zhang，使用深度学习方法解决界面问题的无网格方法，计算物理杂志，400（2020）108963·Zbl 1454.65173号
[65] J.Huang，H.Wang，T.Zhou，带本质边界条件变分问题的增广拉格朗日深度学习方法，arXiv预印本，arXiv:2106.14348（2021）。
[66] G.Bao，X.Ye，Y.Zang，H.Zhou，弱对抗网络反问题的数值解，arXiv预印本，arXiv:2002.1140（2020）。
[67] 何凯、张旭、任正生、孙建军，图像识别的深度剩余学习，载《IEEE计算机视觉与模式识别会议论文集》，2016年，第770-778页。
[68] J.Nocedal，用有限存储更新拟牛顿矩阵，计算数学，35（1980）773-782·Zbl 0464.65037号
[69] J.M.Church，Z.Guo，P.K.Jimack，A.Madzvmou，K.Promislow，B.Wetton，S.M.Wise，F.Yang，Allen-Cahn和Cahn-Hilliard动力学的高精度基准问题，计算物理中的通信，26（2019）·Zbl 1473.65099号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。