×
朱元润;唐、余杭;金昌浩

利用统计信息神经网络学习随机动力学。 （英语） Zbl 07640568号

J.计算。物理学。 474，文章ID 111819，23 p.（2023）.
摘要：我们介绍了一种机器学习框架，称为统计信息神经网络（SINN），用于从数据中学习随机动力学。这种新结构的理论灵感来自于我们在本文中介绍的随机系统的通用逼近定理，以及随机建模的投影算子形式。我们设计了训练神经网络模型的机制，以重现正确的统计的目标随机过程的行为。数值模拟结果表明，训练有素的SINN能够可靠地逼近马尔可夫和非马尔可夫随机动力学。我们证明了SINN对粗粒度问题的适用性以及过渡动力学建模。此外，我们还表明，所获得的降阶模型可以在时间粗粒度数据上进行训练，因此非常适合于稀有事件模拟。

引用于1文件

MSC公司：

60华氏度 随机分析
82立方厘米 时间相关统计力学（动态和非平衡）
68泰克 人工智能

关键词：

科学机器学习;循环神经网络;降阶随机建模;罕见事件

软件：

火炬;PPINN公司;日本宇宙航空公司;PyTorch公司;火炬差异
PDF格式BibTeX公司 XML格式引用
\textit{Y.Zhu}等人，J.Compute。物理学。474，文章ID 111819，第23页（2023；Zbl 07640568）
全文： 内政部 arXiv公司

参考文献：

[1] 陈晓丽；段锦桥；Karniadakis，George Em，《基于稀疏测量的随机对流-扩散-反应系统的学习和元学习》，《欧洲应用杂志》。数学。，32, 3, 397-420 (2021) ·Zbl 07441294号
[2] 张冬坤；鲁，鲁；郭玲；George Em，Karniadakis，量化物理信息神经网络中用于解决正向和反向随机问题的总不确定性，J.Compute。物理。，397，第108850条pp.（2019）·Zbl 1454.65008号
[3] 拉马巴蒂兰，阿穆桑A。；Ramachandran，Prabhu，SPINN：PDE的稀疏、基于物理和部分可解释神经网络，J.Compute。物理。，445，第110600条pp.（2021）·Zbl 07515856号
[4] 孟旭辉；李震；张冬坤；Karniadakis，George Em，PPINN：用于时间相关PDE的仿实物理信息神经网络，计算。方法应用。机械。工程，370，第113250条pp.（2020）·Zbl 1506.65181号
[5] 张冬坤；郭玲；Karniadakis，George Em，《模态空间中的学习：使用物理信息神经网络求解依赖时间的随机偏微分方程》，SIAM J.Sci。计算。，42、2、A639-A665（2020）·Zbl 1440.60067号
[6] Chen，Ricky T.Q。；尤利娅·鲁巴诺娃；杰西·贝登古尔（Jesse Bettencourt）；Duvenaud，David，《神经常微分方程》（2019年12月）
[7] 刘玄清；肖特西；硅，硅；曹、秦；桑吉夫·库马尔；谢秋菊，《神经SDE：用随机噪声稳定神经ODE网络》（2019年6月）
[8] 李雪晨；Wong，Ting Kam Leonard；Chen，Ricky T.Q。；Duvenaud，David K.，随机微分方程的可伸缩梯度和变分推理，（近似贝叶斯推理进展研讨会（2020），PMLR），1-28
[9] 贾俊腾；Benson，Austin R.，《神经跳跃随机微分方程》（2020年1月）
[10] 克里斯托弗·萨尔维；Maud Lemercier；Gerasimovics，Andris，神经随机偏微分方程（2021）
[11] 科瓦奇奇，尼古拉；李宗毅；刘，布里吉德；阿齐扎德涅谢利（Azizzadenesheli），卡姆亚尔（Kamyar）；考希克·巴塔查里亚；安德鲁·斯图亚特（Andrew Stuart）；Anandkumar，Anima，《神经运算符：函数空间之间的学习映射》（2021）
[12] Xu，Winnie；Chen，Ricky T.Q。；李雪晨；Duvenaud，David，带随机微分方程的无限深贝叶斯神经网络（2021年8月）
[13] Lei，H。；贝克，N.A。；Li，X.，广义Langevin方程的数据驱动参数化，Proc。国家。阿卡德。科学。，113, 50, 14183-14188 (2016) ·Zbl 1407.62320号
[14] 朱元然；Lei，Huan，随机系统降阶建模的有效Mori-Zwanzig方程，离散Contin。动态。系统。，序列号。S（2021年）·Zbl 1484.65020号
[15] 楚、魏奇；Li，Xiantao，从分子动力学推导波动热传导模型的Mori-Zwanzig形式主义，Commun。数学。科学。，17, 539-563 (2019) ·Zbl 1482.82050
[16] 马克·塔克曼（Mark Tuckerman），《统计力学：理论与分子模拟》（2010），牛津大学出版社·Zbl 1232.82002号
[17] Yael Katz；科尔比约恩Tunström；Christos C.Ioannou。；克里斯蒂安·胡佩；Couzin，Iain D.，《推断鱼群中相互作用的结构和动力学》，Proc。国家。阿卡德。科学。，108418720-18725（2011年）
[18] 陆飞；马吉奥尼，毛罗；Tang，Sui，从多个轨迹学习异质代理系统中的交互内核，J.Mach。学习。决议，221013-1067（2021）·兹伯利07568622
[19] 郎全军；Lu，Fei，学习相互作用粒子一阶系统平均场方程中的相互作用核（2020），arXiv预印本·Zbl 07471652号
[20] 陆飞；Maugioni，Mauro；Tang，Sui，从多个轨迹学习相互作用粒子随机系统中的相互作用核，发现。计算。数学。，1-55 (2021) ·Zbl 07370549号
[21] 法希姆·吉拉尼；Giannakis，Dimitrios；John Harlim，《基于核的非马尔科夫时间序列预测》，Physica D，418，Article 132829 pp.（2021）·Zbl 1490.62289号
[22] 约翰·哈林；蒋世晓。；梁森伟；杨海钊，缺失动力学预测的机器学习，J.Compute。物理。，428，第109922条pp.（2021）·Zbl 07511409号
[23] 朱元然；文丘里，丹尼尔，具有局部相互作用系统的广义朗之万方程，J.Stat.Phys。，1-31 (2020) ·Zbl 1437.82019年
[24] 李震；卞、欣；李仙桃；George Em，Karniadakis，《通过Mori-Zwanzig形式主义将记忆效应纳入粗粒度建模》，J.Chem。物理。，143，第243128条pp.（2015）
[25] 托马斯·哈德森；李兴杰，基于Mori-Zwanzig形式主义的过阻尼Langevin动力学粗粒化，多尺度模型。模拟。，18, 2, 1113-1135 (2020) ·Zbl 1446.82064号
[26] 安东·马克西米利安·施费尔；Zimmermann，Hans Georg，递归神经网络是通用逼近器，（人工神经网络国际会议（2006），Springer），632-640
[27] 霍克雷特，Sepp；Schmidhuber，Jürgen，长短期记忆，神经计算。，1735-1780年9月8日（1997年）
[28] 萨阿德·阿尔巴维；塔雷克·阿贝德·穆罕默德；Al Zawi，Saad，卷积神经网络的理解，（2017年国际工程与技术会议。2017年国际工程与技术会议，ICET（2017），IEEE），1-6
[29] 田玉新；邓雪青；朱毅；Newsam，Shawn，使用深部局部特征的跨时间和方向非变头顶图像地理定位，（IEEE/CVF计算机视觉应用冬季会议论文集（2020）），2512-2520
[30] 休斯，泰勒·W·。；威廉姆森（Ian A.D.Williamson）。；蒙奇尔·明科夫；樊善辉，作为模拟递归神经网络的波物理，科学。高级，5，12，文章eaay6946 pp.（2019）
[31] Franco Scarselli；马可·戈里（Marco Gori）；Tsoi，Ah Chung；马库斯·哈根布赫纳（Markus Hagenbuchner）；蒙法迪尼，加布里埃尔，图神经网络模型，IEEE Trans。神经网络。，20, 1, 61-80 (2008)
[32] Phoon，K.K。；黄，H.W。；Quek，S.T.，使用Karhunen-Loeve展开模拟强非高斯过程，Probab。工程机械。，20, 2, 188-198 (2005)
[33] 坂本宪弘；Ghanem，Roger，非高斯非平稳随机过程模拟的多项式混沌分解，J.Eng.Mech。，128, 2, 190-201 (2002)
[34] 吉恩吉，伊斯特万，关于欧拉近似的一个注记，《势能分析》。，8, 3, 205-216 (1998) ·Zbl 0946.60059号
[35] 彼得·克劳登（Peter E.Kloeden）。；Neuenkirch，Andreas，随机微分方程近似方案的路径收敛，LMS J.Compute。数学。，10, 235-253 (2007) ·Zbl 1223.60051号
[36] 亚当·帕斯克（Adam Paszke）；格罗斯，萨姆；旧金山马萨；亚当·莱勒（Adam Lerer）；詹姆斯·布拉德伯里；格雷戈里·查南（Gregory Chanan）；特雷弗·基林；林泽明；纳塔利亚·吉梅尔谢恩（Natalia Gimelshein）；卢卡·安提卡；阿尔班·德斯梅森；安德烈亚斯·科普夫；爱德华·杨；扎卡里·德维托；马丁·赖森（Martin Raison）；阿利坎·特贾尼；萨桑克·奇拉姆库蒂；斯坦纳（Benoit Steiner）；方、鲁；白俊杰；Chintala，Soumith，PyTorch:一个命令式、高性能的深度学习库，（Wallach，H.；Larochelle，H.，Beygelzimer，A.；d'Alché-Buc，F.；Fox，E.；Garnett，R.，《神经信息处理系统的进展》，第32卷（2019年），Curran Associates，Inc.），8024-8035
[37] 詹姆斯·布拉德伯里（James Bradbury）；罗伊·弗罗斯蒂格（Roy Frostig）；彼得·霍金斯（Peter Hawkins）；马修·詹姆斯·约翰逊（Matthew James Johnson）；克里斯·利里（Chris Leary）；道戈尔·麦克劳林（Dougal Maclaurin）；Necula，George；亚当·帕斯克（Adam Paszke）；Jake VanderPlas；Wanderman-Millne，Skye；Zhang，Qiao，JAX:Python+NumPy程序的可组合转换（2018）
[38] Silverman，Bernard W.，《统计和数据分析密度估计》（2018），劳特利奇出版社
[39] Risken，Hannes，福克-普朗克方程（The Fokker-Planck方程（1996），Springer），63-95·Zbl 0866.60071号
[40] 朱元然；文丘里，丹尼尔，亚椭圆性和随机微分方程的Mori-Zwanzig公式，J.Math。物理。，62、10，第103505条pp.（2021）·Zbl 1489.60107号
[41] 斯坦尼斯拉夫·杰尼索夫一世。；沃纳Horsthemke；Hänggi，Peter，《广义福克-普朗克方程：推导和精确解》，《欧洲物理学》。J.B，68，4567-575（2009年）·Zbl 1188.82050号
[42] Kühn，Franziska，Lévy型过程矩的存在性和估计，Stoch。过程。申请。，1271018-1041（2017年）·Zbl 1355.60112号
[43] 李仙涛，结晶固体的粗颗粒分子动力学模型，国际期刊数字。方法工程，83，8-9，986-997（2010）·Zbl 1197.74006号
[44] 楚、魏奇；李仙涛，关于广义Langevin方程核函数的渐近行为：一维晶格模型，J.Stat.Phys。，170, 2, 378-398 (2018) ·Zbl 1390.82044号
[45] 刘平；西托，C.I。；Gear，C.William；Kevrekidis，I.G.，基于代理计算中的无方程模型简化：粗粒度分岔和无变量罕见事件分析，数学。模型。自然现象。，10, 3, 71-90 (2015) ·Zbl 1325.35233号
[46] 菲利普·盖斯勒。；克里斯托夫·德尔拉戈；David Chandler，《水中离子对解离的动力学途径》，J.Phys。化学。B、 103、18、3706-3710（1999）
[47] 里科·马丁内斯，拉米罗；Krischer，K。；Kevrekidis，I.G。；库贝，M.C。；Hudson，J.L.，铜电解溶解数据的离散与连续非线性信号处理，化学。工程通信。，118, 1, 25-48 (1992)
[48] Peter G.Bolhuis。；大卫·钱德勒（David Chandler）；克里斯托夫·德尔拉戈；菲利普·盖斯勒（Phillip L.Geissler），《过渡路径采样：在黑暗中，在崎岖的山路上抛掷绳索》（Transition path sampling：Annu）。物理版。化学。，53, 1, 291-318 (2002)
[49] 克里斯托夫·德尔拉戈；Peter G.Bolhuis。；Félix S.Csajka。；David Chandler，《过渡路径采样和速率常数计算》，J.Chem。物理。，1964-1977年5月108日（1998年）
[50] 朱元然；雷、欢；Kim，Changho，非平衡稳态下的广义第二波动分配定理：理论与应用（2021），arXiv预印本
[51] 乔纳森·马丁利（Jonathan C.Mattingly）。；斯图尔特，安德鲁·M。；Higham，Desmond J.，SDE和近似的遍历性：局部Lipschitz向量场和退化噪声，Stoch。过程。申请。，101, 2, 185-232 (2002) ·Zbl 1075.60072号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。