箭头
第34卷第4期
学习物理信息神经网络的专用激活函数

王红辉,陆璐,宋世济&高煌

Commun公司。计算。物理。,34(2023年),第869-906页。

在线发布:2023-11

导出引文
  • 摘要

众所周知,基于物理的神经网络(PINN)存在优化困难。在这项工作中,我们揭示了优化之间的联系PINN和激活功能的困难。具体来说,我们展示了PINN在求解具有不同性质的偏微分方程时,对激活函数具有很高的敏感性。现有的工作通常通过低效的试错来选择激活函数。收件人避免了低效的手动选择,减轻了PINN,我们引入自适应激活函数来搜索最优函数在解决不同的问题时。我们比较了不同的自适应激活功能并讨论其在PINN环境中的局限性。此外,我们建议根据PINN调整候选激活函数的学习组合优化,对学习的功能。这是通过删除无法实现的激活功能来实现的从候选集合中提供高阶导数,并结合初等根据我们对PDE的先验知识,具有不同性质的函数手。我们使用自适应斜率进一步增强搜索空间。提出的自适应激活函数可用于解译不同PDE系统方式。它的有效性在一系列基准上得到了证明。代码位于https://github.com/LeapLabTHU/AdaAFforPINNs。

  • AMS主题标题

65M99、68T07

  • 版权

版权:©全球科学出版社

  • 电子邮件地址
  • BibTex公司
  • RIS公司
  • TXT公司
@第{CiCP-34-869条,author={王、洪慧露、陆松、史记和黄、高},title={学习物理知情神经网络的专门激活函数},journal={计算物理中的通信},年份={2023},体积={34},数字={4},页数={869--906},抽象={

众所周知,基于物理的神经网络(PINN)存在优化困难。在这项工作中,我们揭示了优化之间的联系PINN和激活功能的困难。具体来说,我们展示了PINN在求解具有不同性质的偏微分方程时,对激活函数具有很高的敏感性。现有的工作通常通过低效的试错来选择激活函数。收件人避免了低效的手动选择,减轻了PINN,我们引入自适应激活函数来搜索最优函数在解决不同的问题时。我们比较了不同的自适应激活功能并讨论其在PINN环境中的局限性。此外,我们建议根据PINN调整候选激活函数的学习组合优化,对学习的功能。这是通过删除无法实现的激活功能来实现的从候选集提供高阶导数,并结合初等根据我们在手。我们使用自适应斜率进一步增强搜索空间。提出的自适应激活函数可用于解译不同PDE系统方式。它的有效性在一系列基准上得到了证明。代码位于https://github.com/LeapLabTHU/AdaAFforPINNs。

},issn={1991-7120},doi={https://doi.org/10.4208/cicp.OA-2023-0058},网址={http://global-sci.org/intro/article_detail/cicp/21225.html}}
TY-JOUR公司物理知情神经网络的T1学习专用激活函数AU-Wang、HonghuiAU-鲁,鲁AU-宋世吉AU-黄,高JO-计算物理通信VL-4级SP-869欧洲药典-9062023年上半年DA-2023/11序号-34做-http://doi.org/10.4208/cicp.OA-2023-0058你-https://global-sci.org/intro/article_detail/cicp/22125.htmlKW-偏微分方程、深度学习、自适应激活函数、基于物理的神经网络。实验室-

众所周知,基于物理的神经网络(PINN)存在优化困难。在这项工作中,我们揭示了优化之间的联系PINN和激活功能的困难。具体来说,我们展示了PINN在求解具有不同性质的偏微分方程时,对激活函数具有很高的敏感性。现有的工作通常通过低效的试错来选择激活函数。收件人避免了低效的手动选择,减轻了PINN,我们引入自适应激活函数来搜索最优函数在解决不同的问题时。我们比较了不同的自适应激活功能并讨论其在PINN环境中的局限性。此外,我们建议根据PINN调整候选激活函数的学习组合优化,对学习的功能。这是通过删除无法实现的激活功能来实现的从候选集提供高阶导数,并结合初等根据我们在手。我们使用自适应斜率进一步增强搜索空间。提出的自适应激活函数可用于解译不同PDE系统方式。它的有效性在一系列基准上得到了证明。代码位于https://github.com/LeapLabTHU/AdaAFforPINNs。

王红辉、陆璐、宋世济和高煌。(2023). 学习物理信息神经网络的专用激活函数。计算物理中的通信.34(4).869-906.doi:10.4208/cicp。行动计划-2023-0058
复制到剪贴板
引文已复制到剪贴板