×
弗朗西斯科·卡拉布罗;吉安卢卡·法比亚尼;锡埃托斯，君士坦丁堡

具有陡峭梯度的椭圆偏微分方程数值解的极值学习机配置。 （英语） Zbl 1507.65194号

计算。方法应用。机械。工程师。 387，文章ID 114188，第17页（2021）.
摘要：我们提出了一种新的基于机器学习的数值方法，特别是基于所谓的极限学习机器的概念，通过配置来近似线性椭圆偏微分方程的解。我们表明，具有单个隐层和S形传递函数以及固定、随机、内部权重和偏差的前馈神经网络可以足够精确地计算此类问题的并置解。我们讨论了如何设置输入层和隐藏层之间的权重值范围以及隐藏层的偏差，以获得良好的潜在近似子空间，并探讨了所需的配置点数量。我们通过几个表现出陡峭行为（如边界层）的一维扩散-对流-反应基准问题，证明了该方法的有效性。我们指出，不需要对网络进行迭代训练，因为所提出的数值方法产生了一个线性问题，可以使用最小二乘法和正则化很容易地解决。数值结果表明，所提出的机器学习方法获得了良好的数值精度，优于中心有限差分法，从而绕过了其他机器学习方法耗时的训练阶段。

引用于18文件

MSC公司：

65M70型 偏微分方程初值和初边值问题的谱、配置及相关方法
68T07型 人工神经网络与深度学习

关键词：

偏微分方程;搭配方法;人工神经网络;极限学习机;边界层;sigmoid传递函数

软件：

DGM公司;深XDE
PDF格式BibTeX公司 XML格式引用
\textit{F.Calabró}等人，计算。方法应用。机械。工程387，文章ID 114188，17 p.（2021；Zbl 1507.65194）
全文： 内政部 arXiv公司

参考文献：

[1] 拉加里斯，I.E。；利卡斯，A。；Fotiadis，D.I.，求解常微分方程和偏微分方程的人工神经网络，IEEE Trans。神经网络。，9, 5, 987-1000 (1998)
[2] 拉加里斯，I.E。；利卡斯，A.C。；Papageorgiou，D.G.，不规则边界边值问题的神经网络方法，IEEE Trans。神经网络。，11, 5, 1041-1049 (2000)
[3] Anitescu，C。；阿托什琴科，E。；阿拉伊兰，N。；Rabczuk，T.，解二阶边值问题的人工神经网络方法，计算。马特。容器。，59, 1, 345-359 (2019)
[4] 阿巴比，H。；邦德，J.E。；Samaey，G。；罗伯茨，A.J。；Kevrekidis，I.G.，《将机器学习与多尺度数值联系起来：数据驱动的均质方程发现》，JOM，1-14（2020）
[5] 伯格，J。；Nyström，K.，复杂几何偏微分方程的统一深度人工神经网络方法，神经计算，317，28-41（2018）
[6] Chan-Wai-Nam，Q。；Mikael，J。；Warin，X.，《半线性偏微分方程的机器学习》，J.Sci。计算。，79, 3, 1667-1712 (2019) ·Zbl 1433.68332号
[7] 德维迪，V。；Srinivasan，B.，《基于物理的极限学习机（PIELM）——偏微分方程数值求解的快速方法》，神经计算，391，96-118（2020），网址http://www.sciencedirect.com/science/article/pii/S0925231219318144
[8] 郭，H。；庄，X。；X孟。；Rabczuk，T.，用基于深度学习的搭配方法分析非均匀介质中的三维潜在问题（2020年），arXiv预印本arXiv:2010.12060
[9] 郭，H。；庄，X。；Rabczuk，T.，基尔霍夫板弯曲分析的深度配置法，计算。马特。容器。，59433-456（2019），网址http://www.techscience.com/cmc/v59n2/27944
[10] Han，J。；Jentzen，A。；Weinan，E.，使用深度学习求解高维偏微分方程，Proc。国家。阿卡德。科学。，115, 34, 8505-8510 (2018) ·Zbl 1416.35137号
[11] Han，J。；尼卡，M。；Stinchcombe，A.R.，用深度神经网络求解椭圆偏微分方程的无导数方法，J.Compute。物理。，419，第109672条pp.（2020），URLhttp://www.sciencedirect.com/science/article/pii/S0021999120304460 ·Zbl 07507233号
[12] 雅格塔普，A.D。；Kharazmi，E。；Karniadakis，G.E.，守恒定律离散域上的守恒物理信息神经网络：正问题和逆问题的应用，计算。方法应用。机械。工程，365，第113028条pp.（2020）·Zbl 1442.92002号
[13] Lee，S。；Kooshkbaghi，M。；Spiliotis，K。；西托，C.I。；Kevrekidis，I.G.，通过机器学习从精细尺度观测中获得的粗尺度偏微分方程，混沌，30，1，第013141页，（2020）
[14] 卢，L。；X孟。；毛，Z。；Karniadakis，G.E.，DeepXDE:解微分方程的深度学习库，SIAM Review，63，1，208-228（2021）·Zbl 1459.65002号
[15] Michoski，C。；Milosavljević，M。；Oliver，T。；Hatch，D.，使用深度神经网络求解微分方程，神经计算（2020）
[16] 庞，G。；Yang，L。；Karniadakis，G.E.，神经网络诱导高斯过程回归函数近似和PDE解，J.Compute。物理。，384, 270-288 (2019) ·Zbl 1451.68242号
[17] 陆克文，K。；Ferrari，S.，使用人工神经网络求解偏微分方程的约束积分（CINT）方法，神经计算，155，277-285（2015）
[18] 西里尼亚诺，J。；MacArt，J.F。；Freund，J.B.，DPM：一种深度学习的PDE增强方法，应用于大规模仿真，J.Compute。物理。，423，第109811条pp.（2020），URLhttp://www.sciencedirect.com/science/article/pii/S0021999120305854 ·Zbl 07508424号
[19] 西里尼亚诺，J。；Spiliopoulos，K.，DGM：求解偏微分方程的深度学习算法，J.Comput。物理。，375, 1339-1364 (2018) ·Zbl 1416.65394号
[20] 阿尔米拉，J。；Lopez-de Teruel，P。；Romero-Lopez，D。；Voigtlaender，F.，使用单层和多层前馈神经网络进行近似的负面结果，J.Math。分析。应用。，第124584条pp.（2020）·Zbl 07309692号
[21] 科斯塔雷利，D。；Spigler，R.，由S形函数激活的神经网络算子的近似结果，神经网络。，44, 101-106 (2013) ·Zbl 1296.41017号
[22] 新泽西州古利耶夫。；Ismailov，V.E.，关于用固定权重的单隐层前馈神经网络进行逼近，神经网络。，98, 296-304 (2018) ·Zbl 1437.68062号
[23] Pinkus，A.，神经网络中MLP模型的近似理论，《数值学报》。，8, 1, 143-195 (1999) ·Zbl 0959.68109号
[24] Akyol，K.，基于生长和修剪方法的深度神经网络和极端学习机的比较，专家系统。应用。，140，第112875条pp.（2020）
[25] 黄，G。；黄，G.-B。；Song，S。；You，K.，《极端学习机器的趋势：综述》，神经网络。，61，32-48（2015），网址http://www.sciencedirect.com/science/article/pii/S0893608014002214 ·Zbl 1325.68190号
[26] 黄，G.-B。；朱庆云。；Siew，C.-K.，《极限学习机：前馈神经网络的一种新的学习方案》，（2004年IEEE神经网络国际联合会议（IEEE Cat.No.04CH37541），2（2004），IEEE），985-990
[27] 黄，G.-B.，什么是极限学习机器？填补弗兰克·罗森布拉特（Frank Rosenblatt）的梦想与约翰·冯·诺依曼（John von Neumann）的谜题之间的差距，《认知计算》，第7、3、263-278页（2015年）
[28] Rosenblatt，F.，《感知器：大脑中信息存储和组织的概率模型》，《心理学》。修订版，65、6、386（1958年）
[29] 施密特，W.F。；Kraaijveld，医学硕士。；Duin，R.P.，带随机权重的前馈神经网络，（模式识别国际会议（1992），IEEE计算机社会出版社），1
[30] Pao，Y.-H。；公园，G.-H。；Sobajic，D.J.，随机向量函数连接网的学习和泛化特征，神经计算，6,2163-180（1994）
[31] 德法尔科，C。；O'Riordan，E.，具有不连续扩散系数的反应扩散方程中的内层，国际期刊数值。分析。模型，7，3，444-461（2010）·Zbl 1202.65096号
[32] Oñate，E。；Miquel，J。；Nadukandi，P.，一维对流-扩散反应方程的精确FIC-FEM公式，计算。方法应用。机械。工程师，298373-406（2016）·Zbl 1423.76268号
[33] Mitchell，W.F.，用于测试自适应网格细化算法的二维椭圆问题集，应用。数学。计算。，220、350-364（2013），网址http://www.sciencedirect.com/science/article/pii/S0096300313006449 ·Zbl 1329.65293号
[34] Quarteroni，A.，扩散-传输-反应方程，（微分问题的数值模型（2017），Springer），315-365
[35] Cybenko，G.，通过sigmoid函数的叠加进行逼近，数学。控制信号系统，2，4，303-314（1989）·Zbl 0679.94019号
[36] 霍尼克，K。；Stinchcombe，M。；White，H.，使用多层前馈网络对未知映射及其导数的通用近似，神经网络。，3, 5, 551-560 (1990)
[37] 霍尼克，K。；Stinchcombe，M。；White，H.，多层前馈网络是通用逼近器，神经网络。，2, 5, 359-366 (1989) ·Zbl 1383.92015年
[38] 阿塔利，J.-G。；Pagès，G.，多层感知器函数逼近：一种新方法，神经网络。，10, 6, 1069-1081 (1997)
[39] Dong，S。；Li，Z.，解线性和非线性偏微分方程的局部极值学习机和区域分解（2020），arXiv预印本arXiv:2012.02895
[40] 伊藤，Y.，非线性创造了线性独立性，高级计算。数学。，5, 1, 189-203 (1996) ·Zbl 0855.92007号
[41] 黄，G.-B。；Wang，D.H。；Lan，Y.，《极限学习机器：一项调查》，Int.J.Mach。学习。赛博。，2, 2, 107-122 (2011)
[42] 黄，G.-B。；朱庆云。；Siew，C.-K.，《极限学习机器：理论与应用》，神经计算，70，1-3，489-501（2006）
[43] 哈姆，北。；Hong，B.I.，具有固定权重的神经网络的近似，计算。数学。应用。，47, 12, 1897-1903 (2004) ·Zbl 1065.41047号
[44] Lin，S。；郭，X。；曹，F。；Xu，Z.，离散数据的神经网络逼近，应用。数学。计算。，224, 29-35 (2013) ·Zbl 1334.68190号
[45] Huang，G.-B。；Chen，L。；Siew，C.K.，使用带有随机隐藏节点的增量构造前馈网络的通用近似，IEEE Trans。神经网络。，17, 4, 879-892 (2006)
[46] Auricchio，F。；Da Veiga，L.B。；休斯·T·J。；Reali，A。；Sangalli，G.，弹性静力学和显式动力学的等几何配置，计算。方法应用。机械。工程，249，2-14（2012）·Zbl 1348.74305号
[47] 斯特朗，G。；Fix，G.J.，《有限元法分析》（1973），Prentice-hall·Zbl 0278.65116号
[48] Demkowicz，L。；Rachowicz，W。；Devloo，P.，《全自动hp适应性》，《科学杂志》。计算。，17, 1-4, 117-142 (2002) ·Zbl 0999.65121号
[49] 施密特，A。；Siebert，K.G.，一维有限元方法h-p版本的后验估计，应用。数字。数学。，35, 1, 43-66 (2000) ·Zbl 0966.65060号
[50] 卡拉布罗，F。；布拉沃，D。；卡里西莫，C。；Di Fazio，E。；Di Pasquale，A。；Eldray，A。；法布里奇，C。；Gerges，J。；南卡罗来纳州帕拉佐。；Wassef，J.，检测函数低正则性的空规则，J.Compute。申请。数学。，361, 547-553 (2019) ·Zbl 1416.65073号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。