×

用于捕获反应传输系统中混合模式的深度学习建模框架。 (英语) Zbl 1507.35182号

小结:预测和控制化学混合物对许多科学领域至关重要,例如地下反应迁移、气候模拟、燃烧、流行病学和药理学。由于非均质和各向异性介质中混合的复杂性,与此现象相关的数学模型无法解析处理。数值模拟通常为准确预测化学混合提供了可行的途径。然而,当代混合建模方法无法利用可用的时空数据来提高未来预测的准确性,并且可能需要大量计算,特别是当空间域较大且用于长期时间预测时。为了解决这个知识缺口,我们将在本文中提出一个深度学习(DL)建模框架,用于预测快速双分子反应下的化学混合过程。该框架使用卷积神经网络(CNN)捕获空间模式,使用长短期记忆(LSTM)网络预测混合中的时间变化。通过仔细设计框架——对CNN权重设置非负约束和选择激活函数,该框架确保了化学物种在所有空间点和所有时间的非负性。我们的基于DL的框架快速、准确,培训所需数据最少。使用该模型获得预测所需的时间是使用高保真模拟获得结果所需时间的一小部分(约为mathcal{O}(10^{-6}))。为了获取局部尺度混合特征(如界面混合)的误差达到10%(使用无穷大范数测量),只需要24%到32%的序列数据用于模型训练。为了达到捕获全球尺度混合特征的同等精度,模型训练所需的序列数据占总时空数据的64%至70%。因此,所提出的方法——一种快速准确地预测非均匀和各向异性介质中长期时空混合模式的方法——将是一种在广泛应用中建模反应传输的有价值的工具。

MSC公司:

35问题35 与流体力学相关的PDE
79年第35季度 PDE与经典热力学和传热
76伏05 流动中的反应效应
80A32型 化学反应流
92E20型 化学中的经典流动、反应等
35K57型 反应扩散方程
35-04 偏微分方程相关问题的软件、源代码等
35K51型 二阶抛物型方程组的初边值问题
76米10 有限元方法在流体力学问题中的应用
65M60毫米 涉及偏微分方程初值和初边值问题的有限元、Rayleigh-Ritz和Galerkin方法
6500万06 含偏微分方程初值和初边值问题的有限差分方法
65N30型 含偏微分方程边值问题的有限元、Rayleigh-Ritz和Galerkin方法
68T07型 人工神经网络与深度学习
第68季度32 计算学习理论
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] ALCF-阿贡领导力计算设施,2021年。统一资源定位地址https://www.alcf.anl.gov/。访问日期:2021-07-19。
[2] PyTorch——一个开源机器学习框架,加速了从重新搜索原型到生产部署的道路,2021年。统一资源定位地址https://pytorch.org/。访问日期:2021-07-19。
[3] Tensorflow-端到端开源机器学习平台,2021年。URL https://www.tensorflow.org/。访问日期:2021-07-19。
[4] A.Adrover、S.Cerbelli和M.Giona。混沌流中反应/扩散动力学的谱方法。计算机与化学工程,26:125-1392002。doi:10.1016/S0098-1354(01)00761-X。
[5] B.Ahmed、M.K.Mudunuru、S.Karra、S.C.James和V.V.Vesselinov。用于预测反应混合状态的机器学习模型的比较研究。arXiv预印本:2002.11512020。
[6] A.Amikiya和M.Banda。反应迁移现象的建模和模拟。《计算科学杂志》,28:155-1672018。doi:10.1016/j.jocs.2018.08.002·doi:10.1016/j.jocs.2018.08.002
[7] T.Arbogas、S.Bryant、C.Dawson、F.Saaf、C Wang和M.Wheeler。地下污染物修复中产生的多相流和反应迁移问题的计算方法。计算与应用数学杂志,74(1):19-321996。doi:10.1016/0377-0427(96)00015-5·Zbl 0866.76041号 ·doi:10.1016/0377-0427(96)00015-5
[8] P.Balaprakash、M.Salim、T.Uram、V.Vishwanath和S.Wild。深度超:深度神经网络的异步超参数搜索。2018年IEEE第25届高性能计算国际会议(HiPC),第42-51页。IEEE,2018年。doi:10.1109/HiPC.2018。00014. ·doi:10.1109/HiPC.2018.00014
[9] R.Balestriero。深度学习的样条理论。在2018年国际机器学习会议上,第374-383页。
[10] E.比松。谷歌实验室。《在谷歌云平台上构建机器学习和深度学习模型》,第59-64页。柏林施普林格,2019年。
[11] S.Bradford、V.Morales、W.Zhang、R.Harvey、A.Packman、A.Mohanram和C.Welty。农业环境中微生物病原体的运输和命运。《环境科学与技术评论》,43(8):775-8931013。doi:10.1080/1064389.2012.710449·doi:10.1080/10643389.2012.710449
[12] J.Chang、S.Karra和K.B.Nakshatrala。扩散方程的基于大规模优化的非负交换框架:并行实现和性能研究。《科学计算杂志》,70:243-2712017年。doi:10.1007/s10915-016-0250-5·Zbl 1359.65250号 ·doi:10.1007/s10915-016-0250-5
[13] X.Chen、J.Duan和G.Karniadakis。基于稀疏测量的随机对流扩散反应系统的学习和元学习。《欧洲应用数学杂志》,第124页,2020年。doi:10.1017/S0956792520000169·Zbl 07441294号 ·网址:10.1017/S0956792520000169
[14] F.胆汁。深入学习Python。曼宁出版公司,纽约州庇护所岛,2017年。
[15] R.科迪纳。对流-扩散-反应方程线性系统的稳定有限元方法。应用力学与工程中的计算机方法,188(1-3):61-822000。doi:10.1016/S0045-7825(00)00177-8·Zbl 0973.76041号 ·doi:10.1016/S0045-7825(00)00177-8
[16] A.Dosovitskiy、L.Beyer、A.Kolesnikov、D.Weissenborn、X.Zhai、T.Unterthiner、M.De-hghani、M.Minderer、G.Heigold、S.Gelly和N.Houlsby J.Uszkoreit。一幅图像相当于16x16个单词:用于大规模图像识别的变形金刚。arXiv预印arXiv:2010.119292020。
[17] J.Gao、H.Xing、Z.Tian、J.Pearce、M.Sedeka、S.Golding和V.Rudolphc。用于CO2封存的多孔介质中的反应传输:使用格子Boltzmann方法进行孔隙尺度模拟。计算机与地球科学,98:9-202017年。doi:10.1016/j.cageo.2016.09.008·doi:10.1016/j.cageo.2016.09.008
[18] 日内瓦北部和扎巴拉斯北部。物理系统建模用变压器。arXiv预印arXiv:2010.039572020。
[19] X.Glorit和Y.Bengio。了解训练深度前馈神经网络的困难。《第十三届人工智能与统计国际会议论文集》,第249-256页,2010年。
[20] I.Goodfellow、Y.Bengio和A.Courville。深度学习。麻省理工学院出版社,2016年。网址:http://www。深度学习图书.org·Zbl 1373.68009号
[21] A.Hansen、J.Peterson、J.Ellis、G.Sednek和B.Wilson。陆-水联系:跨越生态系统边界的能量和营养物质的非持久流动。科罗拉多州立大学科林斯堡分校鱼类、野生动物和保护生物学系,科罗拉多州80526。
[22] R.Harvey、H.Harms和L.Landkamer。陆地地下微生物的运输:原位和实验室方法。《环境微生物学手册》,第三版,第872-897页。美国微生物学会,马里兰州Bel Air,2007年。
[23] R.A.Horn和C.R.Johnson。矩阵分析。剑桥大学出版社,剑桥,2012年。
[24] Z.黄伟、Z.马杰和H.志伟。用开放式泡沫对湍流超声速氢火焰进行大涡模拟。燃料,282:1188122020。doi:10.1016/j.fuel.2020.118812·doi:10.1016/j.fuel.2020.118812
[25] W.Hundsdorfer和J.G.Verwer。时间相关对流扩散反应方程的数值解,第33卷。施普林格科技与商业媒体,柏林,2013年。
[26] C.Innamorati、T.Ritschel、T.Weyrich和N.J.Mitra。边缘学习:研究CNN中的边界过滤器。《国际计算机视觉杂志》,2019年第1-10页。doi:10.1007/s11263-019-01223-y·Zbl 1477.68373号 ·doi:10.1007/s11263-019-01223-y
[27] M.Islam、M.Kowal、S.Jia、K.Derpanis和N.Bruce。CNN中的边界效应:特征还是错误?2020年URLhttps://openreview.net/forum?id=M4qXqdw3xC。
[28] P.K.Jha、L.Cao和J.T.Oden。使用多物种混合理论连续体模型对德克萨斯州新型冠状病毒疫情演变进行基于贝叶斯的预测。计算力学,第1-14页,2020年。doi:10.1007/s00466-020-01889-z·Zbl 1469.92111号 ·doi:10.1007/s00466-020-01889-z
[29] D.P.Kingma和J.Ba.Adam:一种随机优化方法。arXiv预印本:1412.69802014。
[30] A.Leal、S.Kyas、D.Kulik和M.Saar。加速反应传输建模:用于化学平衡计算的按需机器学习算法。多孔介质中的传输,133(2):161-2042020。doi:10.1007/s11242-020-01412-1·doi:10.1007/s11242-020-01412-1
[31] A.Li、R.Chen、A.Farimani和Y.Zhang。基于卷积神经网络的反应扩散系统预测。科学报告,10(1):1-92020。doi:10.1038/s41598-020-60853-2。
[32] M.K.Mudunuru和S.Karra。预测反应混合过程的基于物理的机器学习模型。应用力学与工程中的计算机方法,374:1135602021。doi:10.1016/j.cma.2020.113560·Zbl 1506.74499号 ·doi:10.1016/j.cma.2020.113560
[33] M.K.Mudunuru和K.B.Nakshatrala。在有限元方法下,对流-扩散-反应方程的极值原理和实现元素-物种平衡。计算物理杂志,305:448-4932016。doi:10.1016/j.jcp.2015。09.057. ·Zbl 1349.65630号 ·doi:10.1016/j.jcp.2015.09.057
[34] M.K.Mudunuru和K.B.Nakshatrala。关于满足比较原则、最大值原则和非负约束的网格限制:最新发展和新结果。《先进材料与结构力学》,2017年,24:556-590。doi:10.1080/15502287.2016.1166160·doi:10.1080/15502287.2016.1166160
[35] H.Nagarajan和K.B.Nakshatrala。在一般计算网格上对衰减扩散实施非负约束和最大值原理。国际流体数值方法杂志,67(7):820-8472011。doi:10.1002/fld.2389·Zbl 1229.65218号 ·doi:10.1002/fld.2389
[36] V.Nair和G.Hinton。校正的线性单元改进了受限的Boltzmann机器。在ICML中,第807-814页,2010年。统一资源定位地址https://icml.cc/Conferences/2010/papers/432.pdf。
[37] K.B.Nakshatrala、M.K.Mudunuru和A.J.Valocchi。扩散控制双分子反应系统的数值框架,以执行最大值原理和非负约束。《计算物理学杂志》,253:278-3072013。doi:10.1016/j.jcp.2013.07.010·兹比尔1349.92011
[38] K.B.Nakshatrala、H.Nagarajan和M.Shabouei。enforc-222N.V.Jagtap、M.K.Mudunuru和K.B.Nakshatrala/Comun的数值方法。计算。物理。,31(2022),第188-223页,瞬时扩散方程的最大值原理和非负约束。计算物理通信,19:53-932016。doi:10.4208/cicp.180615.280815a·Zbl 1388.65087号 ·doi:10.4208/cicp.180615.280815a
[39] V.I.Naoumov、V.G.Krioukov、A.L.Abdullin和A.V.Demin。燃烧流和反应流中的化学动力学:建模工具和应用。剑桥大学出版社,Cam-bridge,2019年·Zbl 1422.92003年
[40] S.Petrovskii和B.Li。具有密度相关迁移和allee效应的精确可解人口动力学模型。数学生物科学,186(1):79-912003。doi:10.1016/S0025-5564(03)00098-1·Zbl 1027.92026号 ·doi:10.1016/S0025-5564(03)00098-1
[41] G.F.Pinder和M.A.Celia。地下水文。John Wiley and Sons,Inc.,新泽西州,2006年。
[42] M.Raissi、P.Perdikaris和G.Karniadakis。基于物理的神经网络:用于解决涉及非线性偏微分方程的正问题和逆问题的深度学习框架。计算物理杂志,378:686-7072019年。doi:10.1016/j.jcp。2018.10.045. ·Zbl 1415.68175号 ·doi:10.1016/j.jcp.2018.10.045
[43] 任志刚、王斌和郑丽萍。含液滴超声速平面剪切层中涡旋、激波和放热反应相互作用的数值分析。流体物理学,30(3):0361012018。doi:10.1063/1.5011708·doi:10.1063/1.5011708
[44] V.Sabelnikov和V.Vlasenko。超音速气流中的燃烧和超燃冲压发动机燃烧模拟,第585-660页。新加坡施普林格出版社,2018年。doi:10.1007/978-981-10-7410-3 20·数字对象标识代码:10.1007/978-981-10-7410-320
[45] J.Schmidhuber。神经网络中的深度学习:综述。神经网络,61:85-11172015。doi:10.1016/j.neuet.2014.09.003·doi:10.1016/j.neunet.2014.09.003
[46] A.Sergeev和M.Del Balso。Horovod:在Tensor-flow中快速轻松的分布式深度学习。arXiv预印本:1802.057992018。
[47] A.Tambue、G.Lord和S.Geiger。非均匀多孔介质中对流主导反应传输的指数积分器。计算物理杂志,229(10):3957-39692010。doi:10.1016/j.jcp.2010.01.037·Zbl 1423.76355号 ·doi:10.1016/j.jcp.2010.01.037
[48] 曾荫权(Y.K.Tsang)。预测混沌流中快速化学反应的演化。《物理评论》E,80:026305(8),2009年。doi:10.1103/PhysRevE.80.026305·doi:10.1103/PhysRevE.80.026305
[49] A.Vaswani、N.Shazeer、N.Parmar、J.Uszkoreit、L.Jones、A.N.Gomez、L.Kaiser和I.Polo-sukhin。注意力是你所需要的。神经信息处理系统进展,第5998-6008页,2017年。
[50] V.V.Vesselinov、M.K.Mudunuru、S.Karra、D.O'Malley和B.S.Alexandrov。基于非负张量因式分解的无监督机器学习用于分析反应mixing。计算物理杂志,395:85-1042019年。doi:10.1016/j.jcp.2019.05.039·Zbl 1452.68160号 ·doi:10.1016/j.jcp.2019.05.039
[51] A.Viguerie、A.Veneziani、G.Lorenzo、D.Baroli、N.Aretz-Nellesen、A.Patton、T.E.Yan-keelov、A.Reali、T.J.R.Hughes和F.Auricchio。在连续介质力学框架中制定的扩散反应室模型:在新冠肺炎、数学分析和数值研究中的应用。计算力学,66(5):1131-11522020。doi:10.1007/s00466-020-01888-0·Zbl 1469.92127号 ·doi:10.1007/s00466-020-01888-0
[52] T.Wolf、L.Debut、V.Sanh、J.Chaumond、C.Delangue、A.Moi、P.Cistac、T.Rault、R.Louf、M.Funtowicz、J.Davison、S.Shleifer、P.V.Plate、C.Ma、Y.Jernite、J.Plu、T.L.Scao C.Xu、S.Gugger、M.Drame、Q.Lhoest和A.M.Rush。Huggingface的变形金刚:最先进的自然语言处理。arXiv预印arXiv:1910.037712019。
[53] Y.Xiao、F.Whitaker、T.Xu和C.Steefel。反应性运输建模。约翰·威利父子有限公司,新泽西州,2018年。
[54] Y.Xiaofeng、Y.Gui、G.Xiao、Y.Du、L.Liu和D.Wei。高焓和高超音速离解汽车二氧化碳流的反应气体-表面相互作用和传热特性。国际传热传质杂志,146:1188692020。doi:10.1016/j.ijheatmasstransfer.2019.118869·doi:10.1016/j.ijheatmasstransfer.2019.118869
[55] Q.Zhang、S.Hassanizadeh、A.Raoof、M.van Genuchten和S.Roels。模拟瞬态部分饱和流期间的病毒传输和再活化。《渗流区杂志》,11(2):vzj2011-00902012年。doi:10.2136/vzj2011.0090·doi:10.2136/vzj2011.0090
[56] C.Zhu和G.Anderson。地球化学建模的环境应用。剑桥大学出版社,剑桥,2002年。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。