卡洛斯·乌里亚特；大卫·帕尔多；安杰尔·哈维尔·奥米拉 参数PDE的基于有限元的深度学习求解器。 （英语） Zbl 1507.65254号 计算。方法应用。机械。工程师。 391，文章ID 114562，25 p.（2022）. 摘要：我们介绍了一种基于有限元法（FEM）的动态深度学习（DL）体系结构，用于求解线性参数偏微分方程（PDE）。当应用网格细化时，架构中神经元之间的连接模拟有限元连接图。我们使用预条件和不同的范数来选择和讨论几种损失，以增强收敛性。为了简单起见，我们在一个空间域（1D）中实现了生成的Deep-FEM，尽管它扩展到2D和3D问题是简单的。大量的数值实验表明，对于参数和非参数问题中的对称正定（SPD）和不定问题，通常都具有良好的近似性。然而，在某些情况下，由于缺乏凸性，我们无法获得高精度的解。 引用于6文件 MSC公司： 65N30型 含偏微分方程边值问题的有限元、Rayleigh-Ritz和Galerkin方法 65牛顿50 涉及偏微分方程的边值问题的网格生成、细化和自适应方法 68T07型 人工神经网络与深度学习 关键词：深度学习；神经网络；偏微分方程；有限元法 软件：github；VarNet公司；DGM公司；hp-车辆识别号；XPIN编号；蟒蛇；FEniCS公司；科学Py；数字Py；TensorFlow公司；亚当 PDF格式BibTeX公司 XML格式引用 \textit{C.Uriarte}等人，计算。方法应用。机械。工程391，文章ID 114562，25 p.（2022；Zbl 1507.65254） 全文： 内政部 参考文献： [1] 拉托雷，D。；Kunze，H。；Mendivil，F。；Ruiz Galan，M。；Zaki，R.，《反问题：科学与工程的理论与应用》，2015年，《数学》。问题工程，2015，1-3（2015） [2] Yaman，F。；Yakhno，V.G。；Potthast，R.，《反问题的最新理论和应用》，数学。问题工程，2013年，第303154页（2013年） [3] 贝特罗，M。；Boccacci，P.，《成像逆问题导论》（2020），CRC出版社·Zbl 0803.47062号 [4] Alvarez-Aramberri，J。；Pardo博士。；Barucq，H.，使用多目标定向hp自适应反演大地电磁测量，Procedia Comput。科学。，18, 1564-1573 (2013) [5] 奥米拉，A.J。；塞洛里奥，R。；Pardo，D.，裂纹表征用不连续Galerkin锁相热成像的灵敏度和不确定性分析，计算。方法应用。机械。工程，373，第113523条pp.（2021）·Zbl 1506.80004号 [6] 罗哈斯，S。；穆加，I。；Pardo，D.，一种模拟和反演1.5D直流（DC）钻孔测量值的无求积方法，计算。地质科学。，20, 6, 1301-1318 (2016) ·Zbl 1387.86034号 [7] Tarantola，A.，《模型参数估计的反问题理论和方法》（2004），工业和应用数学学会：美国工业与应用数学学会 [8] R.C.阿斯特。；Borchers，B。；Thurber，C.H.，参数估计和反问题（2019），Elsevier [9] Iturrarán-Viveros，美国。；Parra，J.O.，《使用地震属性和测井数据估算渗透率、孔隙度和固有衰减的人工神经网络》，J.Appl。地球物理学。，107, 45-54 (2014) [10] Ye，J.C。；韩，Y。；Cha，E.，《深度卷积框架：反问题的一般深度学习框架》，SIAM J.Imag。科学。，1991年2月11日至2018年10月48日·Zbl 1401.94024号 [11] 奥吉，G。；贾拉勒，A。；梅茨勒，C.A。；Baraniuk，R.G。；Dimakis，A.G。；Willett，R.，《成像逆问题的深度学习技术》，IEEE J.选定领域信息理论，1，1，39-56（2020） [12] 沙赫里亚里，M。；Pardo博士。；Picon，A。；Galdran，A。；德尔塞尔，J。；Torres-Vardín，C.，《钻孔电阻率测量反演的深度学习方法》，计算。地质科学。，24, 3, 971-994 (2020) ·Zbl 1439.86025号 [13] Alyaev，S。；沙赫里亚里，M。；Pardo博士。；奥米拉，A.J。；拉森，D.S。；Jahani，N。；Suter，E.，使用深度神经网络建模超深电磁测井，地球物理，86，3，E269-E281（2021） [14] 沙赫里亚里，M。；Pardo博士。；里维拉，J.A。；托雷斯-弗丁，C。；Picon，A。；德尔塞尔，J。；奥斯桑翁，S。；Calo，V.M.，《钻孔电阻率测量深度学习反演的误差控制和损失函数》，国际J·数值。方法工程，122，6，1629-1657（2021） [15] Khodayi-Mehr，R。；Zavlanos，M.，VarNet:解偏微分方程的变分神经网络，（Bayen，A.M.；Jadbabaie，A.；Pappas，G.；Parrilo，P.A.；Recht，B.；Tomlin，C。；Zeilinger，M.，《第二届动力学和控制学习会议论文集》。第二届动力学和控制学习会议论文集，机器学习研究论文集，第120卷（2020），PMLR:PMLR云），298-307 [16] 西里尼亚诺，J。；Spiliopoulos，K.，DGM：解偏微分方程的深度学习算法，J.Compute。物理。，375, 1339-1364 (2018) ·Zbl 1416.65394号 [17] E、 W。；Yu，B.，《Deep Ritz方法：求解变分问题的基于深度学习的数值算法》，Commun。数学。统计学。，6, 1, 1-12 (2018) ·Zbl 1392.35306号 [18] 蔡，Z。；陈，J。；刘，M。；Liu，X.，深度最小二乘法：求解椭圆偏微分方程的无监督学习数值方法，J.Compute。物理。，420，第109707条pp.（2020）·Zbl 07506625号 [19] 莱斯，M。；佩迪卡里斯，P。；Karniadakis，G.，《基于物理的神经网络：解决非线性偏微分方程正问题和逆问题的深度学习框架》，J.Compute。物理。，378, 686-707 (2019) ·Zbl 1415.68175号 [20] Kharazmi，E。；张，Z。；Karniadakis，G.E.，《虚拟专用网络：求解偏微分方程的变分物理神经网络》，1-24（2019），ArXivhttp://arxiv.org/abs/1912.00873 [21] Kharazmi，E。；张，Z。；Karniadakis，G.E.，hp VPINNs：具有域分解的变分物理知情神经网络，Comput。方法应用。机械。工程，374，文章113547 pp.（2021）·Zbl 1506.68105号 [22] 雅格塔普，A.D。；Karniadakis，G.E.，《扩展物理信息神经网络（XPINNs）：基于广义时空域分解的非线性偏微分方程深度学习框架》，Commun。计算。物理。，28, 5, 2002-2041 (2020) ·兹布尔0741958 [23] 毛，Z。；雅格塔普，A.D。；Karniadakis，G.E.，《高速流动的物理信息神经网络》，计算。方法应用。机械。Eng.，360，第112789条，第（2020）页·Zbl 1442.76092号 [24] 舒克拉，K。；Di Leoni，P.C。；J·布莱克郡。；斯帕克曼，D。；Karniadakis，G.E.，《表面断裂裂纹超声无损定量物理信息神经网络》，J.Nondestrust。评估。，39, 3, 61 (2020) [25] I·布雷维斯。；穆加，I。；van der Zee，K.G.，面向目标的有限元离散化的机器学习最小残差（ML-MRes）框架，计算。数学。申请。，95, 186-199 (2021) ·Zbl 1524.65764号 [26] 帕辛斯基，M。；Grzeszczuk，R。；Pardo博士。；Demkowicz，L.，深度学习驱动的自适应Hp有限元方法，（计算科学-ICCS 2021（2021），施普林格国际出版公司），114-121 [27] Khoo，Y。；卢，J。；Ying，L.，用人工神经网络解决参数PDE问题，欧洲期刊应用。数学。，32, 3, 421-435 (2021) ·Zbl 1501.65154号 [28] Kutyniok，G。；彼得森，P。；拉斯兰，M。；Schneider，R.，《深度神经网络和参数偏微分方程的理论分析》，Constr。约（2021年） [29] 巴塔查亚，K。；侯赛尼，B。；科瓦奇奇，N.B。；Stuart，A.M.，参数PDE的模型简化和神经网络，SMAI J.Compute。数学。，7, 121-157 (2021) ·Zbl 1481.65260号 [30] 李，Z。；科瓦奇奇，N。；Azizzadenesheli，K。；刘，B。；巴塔查亚，K。；Stuart，A。；Anandkumar，A.，参数偏微分方程的多极图神经算子（2020），http://arxiv.org/abs/2006.09535 [31] 萨梅克，W。；威根，T。；Müller，K.-R.，《可解释的人工智能：理解、可视化和解释深度学习模型》，39-48（2017），http://arxiv.org/abs/1708.08296 [32] Barredo Arrieta，A。；Díaz-Rodríguez，N。；德尔塞尔，J。；Bennetot，A。；Tabik，S。；Barbado，A。；加西亚，S。；Gil-Lopez，S。；莫利纳，D。；本杰明斯，R。；Chatila，R。；Herrera，F.，《可解释人工智能（XAI）：面向负责任人工智能的概念、分类、机遇和挑战》，Inf.Fusion，58，82-115（2020） [33] 里维拉，J.A。；泰勒，J.M。；奥梅拉，A.J。；Pardo，D.，关于使用神经网络求解偏微分方程的求积规则，1-28（2021），http://arxiv.org/abs/2111.00217 [34] 萨巴特，L。；Kundu，C.K.，《有限元方法的历史：回顾》，395-404（2021），新加坡斯普林格 [35] He，K。；张，X。；任，S。；Sun，J.，图像识别的深度剩余学习，（2016年IEEE计算机视觉和模式识别会议（CVPR）（2016），IEEE），770-778 [36] M.阿巴迪。；阿加瓦尔，A。；巴勒姆，P。；Brevdo，E。；陈，Z。；Citro，C。；Corrado，G。；A.戴维斯。；迪安·J。；德文，M。；盖玛瓦特，S。；古德费罗，I。；竖琴，A。；欧文，G。；Isard，M。；贾毅。；Jozefowicz，R。；凯撒，L。；库德勒，M。；Levenberg，J。；马内，D。；蒙加，R。；摩尔，S。；D.穆雷。；奥拉赫，C。；舒斯特，M。；Shlens，J。；斯坦纳，B。；Sutskever，I。；Talwar，K。；塔克，P。；Vanhoucke，V。；瓦苏德万，V。；维加斯，F。；葡萄酒，O。；监狱长，P。；Wattenberg，M。；维克，M。；Yu，Y。；Zheng，X.，TensorFlow:异构分布式系统上的大规模机器学习（2015），URLhttp://download.tensorflow.org/paper/whitepaper2015.pdf [37] Demkowicz，L。；Monk，P。；Vardapetyan，L。；Rachowicz，W.，《hp有限元空间的De Rham图》，计算。数学。申请。，39, 7-8, 29-38 (2000) ·Zbl 0955.65084号 [38] 金玛，D.P。；Ba，J.L.，Adam：随机优化方法，（第三届学习表征国际会议，ICLR 2015-会议跟踪会议记录（2015）），1-15，http://arxiv.org/abs/1412.6980 [39] 穆勒，L.K。；利马，L.M。；Catabriga，L.，《有限元分析中局部和全局预条件的比较研究》（第三十八届伊比利亚-拉丁美洲工程计算方法大会论文集（2017）） [40] Pardo，D.，《hp自适应与双网格求解器的集成：电磁学应用》（2004），德克萨斯大学奥斯汀分校（博士论文） [41] 哈里斯·C·R。；Millman，K.J。；范德沃尔特，S.J。；Gommers，R。；Virtanen，P。；库纳波，D。；威瑟，E。；泰勒，J。；Berg，S。；新泽西州史密斯。；科恩，R。；Picus，M。；霍耶，S。；van Kerkwijk，M.H。；布雷特，M。；霍尔丹，A。；del Río，J.F。；Wiebe，M。；彼得森，P。；热拉尔·马钱特，P。；Sheppard，K。；Reddy，T。；Weckesser，W。；阿巴斯，H。；高尔克，C。；Oliphant，T.E.，《使用NumPy进行数组编程》（Nature，585（2020）），357-362 [42] Virtanen，P。；Gommers，R。；Oliphant，T.E。；哈伯兰，M。；Reddy，T。；库纳波，D。；Burovski，E。；彼得森，P。；Weckesser，W。；Bright，J。；范德沃尔特，S.J。；布雷特，M。；Wilson，J。；Millman，K.J。；北马约罗夫。；Nelson，A.R.J。；琼斯，E。；科恩，R。；Larson，E。；Carey，C.J。；波拉特，I。；Feng，Y。；摩尔，E.W。；范德普拉斯，J。；Laxalde博士。；佩克托尔德，J。；Cimrman，R。；亨利克森，I。；昆特罗，E.A。；哈里斯·C·R。；阿奇博尔德，A.M。；里贝罗，A.H。；佩德雷戈萨，F。；van Mulbregt，P.，SciPy 1.0：Python中科学计算的基本算法，（《自然方法》，17（2020）），261-272 [43] C.Uriart，SparseTensors#43497的einsum，查阅日期2021年5月25日，URLhttps://github.com/tensorflow/tensorflow/issues/43497。 [44] O.G.Yalcin，TensorFlow中的急切执行与图形执行：哪个更好？，查看日期：2021年6月12日，URLhttps://towardsdatascience.com/eager-execution-vs-graph-execution which-is-better-38162ea4dbf6。 [45] 阿尔奈斯，M.S。；布莱希塔，J。；Hake，J。；约翰逊，A。；Kehlet，B。；Logg，A。；Richardson，C。；Ring，J。；罗格内斯，E。；Wells，G.N.，《FEniCS项目第1版》。5, 9-23 (2015) [46] Moshfegh，J。；Vouvakis，M.N.，《有限元模型的直接求解：稀疏直接求解器是最佳策略吗？》？，（2017年高级应用电磁学国际会议（ICEAA）（2017），IEEE），1636-1638 [47] Abur，A.，求解稀疏线性方程组中正向/反向替换的并行方案，IEEE Trans。电力系统。，3, 4, 1471-1478 (1988) [48] Bramble，J.H.，《多重网格方法》（2019），查普曼和霍尔/CRC [49] Allen-Zhu，Z。；李毅。；Song，Z.，通过过度参数化实现深度学习的收敛理论，（第36届机器学习国际会议，2019年ICML 2019-6月（2019）），362-372，http://arxiv.org/abs/1811.03962 [50] 阿莫斯，B。；徐，L。；Kolter，J.Z.，《输入凸神经网络：补充材料》，（第34届机器学习国际会议，ICML 2017，第1卷（2017）），192-206 [51] 米什拉，S。；Molinaro，R.，《用物理信息神经网络逼近偏微分方程一类逆问题的泛化误差估计》，IMA J.Numer。分析。(2021) 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。