×
关伟龙;杨凯汉;陈银生;廖少林;管仲

一种高精度、高效率的维数增强物理信息神经网络（DaPINN）。 （英语） Zbl 07771277号

J.计算。物理。 491，文章ID 112360，26 p.（2023）.
摘要：基于物理信息的神经网络（PINNs）因其在求解偏微分方程（PDE）方面的有效性而被广泛应用于各个领域。然而，出于科学和商业目的，PINN的准确性和效率需要大大提高。为了解决这一问题，我们系统地提出了一种新的维度增强物理信息神经网络（DaPINN），它同时显著提高了基本PINN的准确性和效率。在DaPINN模型中，我们通过插入额外的样本特征来操纵网络输入的维度，然后将扩展的维度合并到损失函数中。此外，我们验证了幂级数增强、傅里叶级数增强和副本增强在正向和反向问题中的有效性。在大多数实验中，DaPINN的误差比基本PINN低1个数量级。结果表明，DaPINN在准确性和效率方面都优于原始PINN，并且减少了对采样点数量的依赖。我们还讨论了DaPINN的计算复杂性、其网络规模的含义、DaPINN的其他实现，以及DaPINNs方法与基于残差的自适应精化（RAR）、自适应物理信息神经网络（SA-PINN）和梯度增强物理信息神经网（gPINNs）的兼容性。

MSC公司：

6500万 偏微分方程、初值和含时初边值问题的数值方法
68泰克 人工智能
65新元 偏微分方程边值问题的数值方法

关键词：

PINN术语;尺寸增加的;数据增强;产品开发工程师

软件：

DGM公司;MscaleDNN公司;亚当;hp-车辆识别号;深XDE
PDF格式BibTeX公司 XML格式引用
\textit{W.Guan}等人，J.Compute。物理学。491，文章ID 112360，26 p.（2023；Zbl 07771277）
全文： DOI程序 arXiv公司

参考文献：

[1] Javidi，M.，广义Burger's-Huxley方程的谱配置法数值解，应用。数学。计算。，178, 2, 338-344 (2006) ·Zbl 1100.65081号
[2] Moghimi，M。；Hejazi，F.S.，解广义burger-Fisher和burger方程的变分迭代法，混沌孤子分形，33，5，1756-1761（2007）·Zbl 1138.35398号
[3] Chernyshenko，A.Y。；Olshanskii，M.A.，曲面上pdes的自适应八叉树有限元方法，计算。方法应用。机械。工程，291，146-172（2015）·Zbl 1425.65155号
[4] Ames，W.F.，《偏微分方程的数值方法》（2014），学术出版社·兹比尔0219.35007
[5] Dissanayake，M。；Phan-Thien，N.，解偏微分方程的基于神经网络的近似，Commun。数字。方法工程，10，3，195-201（1994）·Zbl 0802.65102号
[6] 莱斯，M。；佩迪卡里斯，P。；Karniadakis，G.E.，《基于物理的神经网络：用于解决涉及非线性偏微分方程的正问题和逆问题的深度学习框架》，J.Compute。物理。，378, 686-707 (2019) ·Zbl 1415.68175号
[7] Karniadakis，G.E。；Kevrekidis，I.G。；卢，L。；佩迪卡里斯，P。；王，S。；Yang，L.，《基于物理的机器学习》，《国家物理评论》。，3、6、422-440（2021年），[在线]。可用：
[8] 蔡，S。；毛，Z。；王，Z。；尹，M。；Karniadakis，G.E.，《流体力学物理信息神经网络：综述》，《机械学报》。罪。，37、12、1727-1738（2021），[在线]。可用：
[9] 陈，D。；高，X。；徐，C。；王，S。；陈，S。；方，J。；Wang，Z.，Flowdnn：一种基于物理信息的深度神经网络，用于快速准确的流量预测，Front。信息技术。电子。工程师，23，2，207-219（2022）
[10] 蔡，S。；王，Z。；王，S。；佩迪卡里斯，P。；Karniadakis，G.E.，《传热问题的物理信息神经网络》，J.heat Transf。，143, 6 (2021)
[11] 蒋，X。；王，D。；范，Q。；张，M。；卢，C。；Lau，A.P.T.，《光纤非线性动力学的物理信息神经网络》，《激光光子学评论》，第16、9期，第2100483页，（2022年），[在线]。可用：
[12] Shukla，K。；Di Leoni，P.C。；J·布莱克郡。；斯帕克曼，D。；Karniadakis，G.E.，《表面断裂裂纹超声无损定量物理信息神经网络》，J.Nondestrust。评估。，39, 3, 1-20 (2020)
[13] 拉什特·贝赫斯特，M。；Huber，C。；Shukla，K。；Karniadakis，G.E.，用于波传播和全波形反演的物理信息神经网络（pins），J.Geophys。Res.，Solid Earth，127，5，文章e2021JB023120 pp.（2022），[在线]。可用：
[14] Kharazmi，E。；张，Z。；Karniadakis，G.E.，hp-vpins：具有区域分解的变分物理信息神经网络，计算。方法应用。机械。工程，374，文章113547 pp.（2021）·兹比尔1506.68105
[15] 比肖夫，R。；Kraus，M.，《基于物理知识的深度学习的多目标损失平衡》（2021），arXiv预印本
[16] 吴国忠。；方，Y。；库德里亚绍夫，N.A。；Wang，Y.-Y。；Dai，C.-Q.，利用改进的物理信息神经网络方法和守恒定律约束预测光孤子，混沌孤子分形，159，文章112143 pp.（2022）·Zbl 1505.78035号
[17] Xiang，Z。；彭，W。；刘，X。；Yao，W.，自适应损失平衡物理信息神经网络，神经计算，496，11-34（2022）
[18] Yu，J。；卢，L。；X孟。；Karniadakis，G.E.，用于正向和反向pde问题的梯度增强物理信息神经网络，计算。方法应用。机械。工程，393，第114823条pp.（2022）·Zbl 1507.65217号
[19] 麦克伦尼，L.D。；Braga-Neto，U.M.，自适应物理信息神经网络，J.Compute。物理。，474，第111722条pp.（2023），[在线]·Zbl 07640528号
[20] 雅格塔普，A.D。；川口，K。；Karniadakis，G.E.，《自适应激活函数加速深度和物理信息神经网络的收敛》，J.Compute。物理。，404，第109136条pp.（2020）·兹比尔1453.68165
[21] 西里尼亚诺，J。；Spiliopoulos，K.，Dgm:解偏微分方程的深度学习算法，J.Compute。物理。，375, 1339-1364 (2018) ·Zbl 1416.65394号
[22] 戈尔巴琴科，V.I。；拉佐夫斯卡娅，T.V。；Tarkhov，D.A。；Vasilyev，A.N。；朱可夫，M.V.，《数学物理反问题中的神经网络技术》，（神经网络国际研讨会（2016），施普林格），310-316
[23] 乔·H。；儿子H。；Hwang，H.J。；Kim，E.，前向问题的深度神经网络方法（2019），arXiv预印本
[24] 米什拉，S。；Molinaro，R.，《物理信息神经网络用于逼近偏微分方程一类逆问题的泛化误差估计》，IMA J.Numer。分析。，42, 2, 981-1022 (2022) ·Zbl 07524707号
[25] 雅格塔普，A.D。；毛，Z。；N.亚当斯。；Karniadakis，G.E.，超音速流动反问题的物理信息神经网络，J.Compute。物理。，466，第111402条pp.（2022），[在线]。可用：·Zbl 07561079号
[26] 拉加里斯，I.E。；利卡斯，A。；Fotiadis，D.I.，求解常微分方程和偏微分方程的人工神经网络，IEEE Trans。神经网络。，9, 5, 987-1000 (1998)
[27] McFall，K.S。；Mahan，J.R.，求解精确满足任意边界条件的边值问题的人工神经网络方法，IEEE Trans。神经网络。，20, 8, 1221-1233 (2009)
[28] Dong，S。；Ni，N.，一种用深度神经网络表示周期函数和精确执行周期边界条件的方法，J.Compute。物理。，435，第110242条pp.（2021）·兹伯利07503727
[29] Lagari，P.L。；Tsoukalas，L.H。；Safarkhani，S。；Lagaris，I.E.，求解矩形区域内偏微分方程的神经形式的系统构造，受初始、边界和界面条件的约束，国际期刊Artif。智力。工具，29，05，第2050009条pp.（2020）
[30] 亚兹达尼，A。；卢，L。；莱斯，M。；Karniadakis，G.E.，系统生物学为推断参数和隐藏动力学的深度学习提供了信息，PLoS Compute。生物学，16，11，文章e1007575 pp.（2020）
[31] 蔡伟（Cai，W.）。；李，X。；Liu，L.，用于高频近似和波问题的相移深度神经网络，SIAM J.Sci。计算。，42、5、A3285-A3312（2020）·Zbl 1455.35246号
[32] 刘，Z。；蔡伟（Cai，W.）。；Xu，Z.-Q.J.，求解复域泊松-玻尔兹曼方程的多尺度深度神经网络（mscalednn）（2020），arXiv预印本·Zbl 1473.65348号
[33] 卢，L。；X孟。；毛，Z。；Karniadakis，G.E.，Deepxde:求解微分方程的深度学习库，SIAM Rev.，63，1208-228（2021）·兹比尔1459.65002
[34] Kannojia，S.P。；Jaiswal，G.，《不同分辨率对基于cnn的图像分类性能的影响：实验研究》，《国际计算机杂志》。科学。工程师，6，9，451-456（2018）
[35] Tancik，M。；Srinivasan，P.P。；Mildenhall，B。；弗里多维奇·凯尔（Fridovich-Keil，S.）。；Raghavan，N。；美国Singhal。；Ramamoorthi，R。；Barron，J.T。；Ng，R.，Fourier特性使网络能够学习低维域中的高频函数（2020年），[在线]。可用：
[36] 卢，L。；X孟。；蔡，S。；毛，Z。；Goswami，S。；张，Z。；Karniadakis，G.E.，基于公平数据的两个神经运算符（带实际扩展）的全面公平比较，计算。方法应用。机械。Eng.，393，第114778条，pp.（2022），[在线]。可用：·Zbl 1507.65050号
[37] Li，Z。；科瓦奇奇，N。；Azizzadenesheli，K。；刘，B。；巴塔查亚，K。；Stuart，A。；Anandkumar，A.，参数偏微分方程的傅里叶神经算子（2020），arXiv预印本
[38] 卢，L。；佩斯托里，R。；姚，W。；王，Z。；Verdugo，F。；Johnson，S.G.，《逆向设计中具有硬约束的物理信息神经网络》，SIAM J.Sci。计算。，43、6、B1105-B1132（2021）·Zbl 1478.35242号
[39] 拉胡，M。；普尔，B。；Kleinberg，J。；神经节，S。；Sohl-Dickstein，J.，《深度神经网络的表达能力》，载于：D.Precup和Y.W.Teh（编辑），《第34届机器学习国际会议论文集》，PMLR，2017年8月6日至11日，载于《机器学习研究论文集》第70卷，第2847-2854页，[在线]。可用：
[40] 蒙图法尔，G.F。；帕斯卡努，R。；Cho，K。；Bengio，Y.，《深度神经网络线性区域的数量》，《高级神经信息处理》。系统。，27（2014），[在线]。可用：
[41] Rahimi，A。；Recht，B.，《大型内核机器的随机特性》，（《第20届神经信息处理系统国际会议论文集》，ser.NIPS'07（2007），Curran Associates Inc.：Curran associatess Inc.Red Hook，NY，USA），1177-1184
[42] Ghiasi，G。；崔，Y。；Srinivas，A。；钱，R。；Lin，T.-Y。；库布克，E.D。；Le，Q.V。；Zoph，B.，简单复制是一种用于实例分割的强大数据增强方法，（IEEE/CVF计算机视觉和模式识别会议论文集（2021）），2918-2928
[43] Kingma，D.P。；Ba，J.，Adam:随机优化方法（2014），arXiv预印本
[44] 何，Q。；巴拉哈斯·索拉诺，D。；塔塔科夫斯基，G。；Tartakovsky，A.M.，《应用于地下运输的多物理数据同化的物理信息神经网络》，水资源高级研究所。，141，第103610条pp.（2020）
[45] 雅格塔普，A。；Karniadakis，G.E.，激活功能在回归和分类中的重要性如何？调查、性能比较和未来方向，J.Mach。学习。模型。计算。（2022），[在线]。可用：
[46] G.E.Hinton、N.Srivastava、A.Krizhevsky、I.Sutskever、R.R.Salakhutdinov，《通过防止特征检测器的协同适应来改进神经网络》，2012年，第212-223页。
[47] 张，D。；卢，L。；郭，L。；Karniadakis，G.E.，《量化物理信息神经网络中用于解决正向和反向随机问题的总不确定性》，J.Compute。物理。，397，第108850条pp.（2019），[在线]。可用：·Zbl 1454.65008号
[48] 姜瑜。；苏尔·R·M。；Pesce，L.L。；Drukker，K.，《噪声注入对人工神经网络训练影响的研究》，（2009年神经网络国际联合会议（2009）），1428-1432，[在线]。可用：
[49] J.Yu，L.Lu，X.Meng，G.E.Karniadakis，用于正向和反向pde问题的梯度增强物理信息神经网络，2021年·Zbl 1507.65217号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。