×

一种基于多阶段深度学习的多尺度模型约简算法。 (英语) Zbl 1524.65522号

总结:在这项工作中,我们提出了一种多阶段训练策略,用于开发应用于多尺度特征问题的深度学习算法。所提出的策略的每个阶段共享(几乎)相同的网络结构,并预测多尺度问题的相同降阶模型。前一阶段的输出将与当前阶段的中间层相结合。我们的数值结果表明,使用不同的降阶模型作为每个阶段的输入可以改进训练,并且我们提出了几种向系统中添加不同信息的方法。这些方法包括数学多尺度模型约简和网络方法;但我们发现,数学方法是一种系统的信息解耦方法,并给出了最佳结果。最后,我们在一个依赖时间的非线性问题和一个稳态模型上验证了我们的训练方法。

理学硕士:

65M60毫米 涉及偏微分方程初值和初边值问题的有限元、Rayleigh-Ritz和Galerkin方法
65N30型 含偏微分方程边值问题的有限元、Rayleigh-Ritz和Galerkin方法
76S05号 多孔介质中的流动;过滤;渗流
68T07型 人工神经网络与深度学习
35卢比 图和网络(分支或多边形空间)上的PDE
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Steven L.Brunton。;Kutz,J.Nathan,《数据驱动的材料多尺度模型发现方法》,J.Phys。材料。,第2、4条,第044002页(2019年)
[2] 张小文;Eric T.Chung。;叶尔钦·伊芬迪耶夫;爱德华多·吉尔丁;王亚廷;张静艳,多孔介质流动模拟中的深层全局模型约简学习,计算机。地质科学。,24, 1, 261-274 (2020) ·Zbl 1434.76121号
[3] 亚历山大·海因莱因(Alexander Heinlein);阿克塞尔·克拉翁;马丁·兰瑟(Martin Lanser);Weber,Janine,自适应区域分解方法中的机器学习-预测约束的几何位置,SIAM J.Sci。计算。,41、6、A3887-A3912(2019)·Zbl 1429.65065号
[4] 吉姆·马吉拉(Jim Magiera);射线,深;Hesthaven,Jan S。;Christian Rohde,《Riemann问题的约束感知神经网络》,J.Compute。物理。,409,第109345条pp.(2020)·Zbl 1435.76046号
[5] 雷加佐尼,F。;戴德,L。;Quarteroni,A.,高效模拟心脏机电的多尺度主动力生成模型的机器学习,计算。方法应用。机械。工程,370,第113268条pp.(2020)·兹比尔1506.74212
[6] 玛丽亚·瓦西里耶娃(Maria Vasilyeva);梁永达;钟,埃里克·T。;叶尔钦·伊芬迪耶夫;Wheeler,Mary,使用非局部多连续放大技术学习非线性多尺度模拟中的宏观参数,J.Comput。物理。,第109323条pp.(2020)·兹比尔1436.76041
[7] 王坤;孙伟庆,通过递归均匀化和深度学习连接的多尺度多渗透性孔塑性模型,计算。方法应用。机械。工程,334337-380(2018)·Zbl 1440.74130号
[8] 王敏;张小文;梁永达;Eric T.Chung。;叶尔钦·伊芬迪耶夫;玛丽·惠勒(Mary Wheeler),《流体动力学降阶深度学习》(Reduced order deep learning for flow dynamics)。深度学习和模型简化之间的相互作用,J.Compute。物理。,401,第108939条pp.(2020)·Zbl 1454.76007号
[9] 王倩;尼科尔·里帕蒙蒂;Hesthaven,Jan S.,基于Mori-Zwanzig形式的参数POD-Galerkin降阶模型的递归神经网络闭包,J.Compute。物理。,第109402条pp.(2020)·Zbl 1436.65093号
[10] 王亚廷;张小文;Eric T.Chung。;叶尔钦·伊芬迪耶夫;王敏,深度多尺度模型学习,J.Compute。物理。,406,第109071条pp.(2020)·Zbl 1454.76008号
[11] 杨德成凹;Eric T.Chung。;参见,Simon,基于深度学习的输运方程非线性放大方法(2020),arXiv预印本arXiv:2007.03432
[12] 张泽成;Eric T.Chung。;叶尔钦·伊芬迪耶夫;Leung,Wing Tat,粗化不确定性空间的学习算法及其在多尺度模拟中的应用,数学,8,5,720(2020)
[13] 维杰省巴德里纳亚南;Alex Kendall;Cipolla,Roberto,Segnet:用于图像分割的深度卷积编码器-解码器架构,IEEE Trans。模式分析。机器。智力。,39, 12, 2481-2495 (2017)
[14] 董超;Loy,Chen Change;他,开明;唐晓鸥,使用深度卷积网络的图像超分辨率,IEEE Trans。模式分析。机器。智力。,38295-307(2015年)
[15] 何开明,张向玉,任少清,孙健,图像识别的深度剩余学习,载:IEEE计算机视觉与模式识别会议论文集,2016,第770-778页。
[16] 胡杰,沈莉,孙刚,挤压和激励网络,载于:IEEE计算机视觉和模式识别会议论文集,2018,第7132-7141页。
[17] 高煌,刘庄,劳伦斯·范德马滕,基利安·温伯格,紧密连接卷积网络,收录于《IEEE计算机视觉与模式识别会议论文集》,2017年,第4700-4708页。
[18] Phillip Isola,Jun-Yan Zhu,Tinghui Zhou,Alexei A Efros,使用条件对抗网络进行图像到图像的转换,收录于:IEEE计算机视觉和模式识别会议论文集,2017年,第1125-1134页。
[19] 贾斯汀·约翰逊(Justin Johnson);亚历山大·阿拉希;李飞飞,实时风格传输和超分辨率感知损失,(欧洲计算机视觉会议(2016),施普林格),694-711
[20] Jonathan Long、Evan Shelhamer、Trevor Darrell,语义分割的完全卷积网络,收录于:IEEE计算机视觉和模式识别会议论文集,2015年,第3431-3440页。
[21] 凯伦·西蒙扬(Karen Simonyan);安德鲁·齐瑟曼(Andrew Zisserman),《用于大规模图像识别的甚深卷积网络》(2014),arXiv预印本arXiv:1409.1556
[22] C.Szegedy,S.Ioffe,V.Vanhoucke,A.Alemi,Inception-ResNet和残余联系对学习的影响,arXiv预印本arXiv:1602.07261。
[23] 塞格迪,克里斯蒂安;谢尔盖·洛夫;文森特·范胡克;Alemi,Alexander A.,《Inception-v4,Inception-resnet和剩余联系对学习的影响》(第三十届AAAI人工智能会议(2017年))
[24] Christian Szegedy、Vincent Vanhoucke、Sergey Ioffe、Jon Shlens、Zbigniew Wojna,《重新思考计算机视觉的初始架构》,载于《IEEE计算机视觉和模式识别会议论文集》,2016年,第2818-2826页。
[25] 维克多·M·卡罗(Victor M.Calo)。;叶尔钦·伊芬迪耶夫;胡安·加维斯(Juan Galvis);Ghommem,Mehdi,求解非线性偏微分方程的多尺度经验插值,J.Compute。物理。,278, 204-220 (2014) ·Zbl 1349.65612号
[26] 维克多·M·卡罗(Victor M.Calo)。;叶尔钦·伊芬迪耶夫;胡安·加维斯(Juan Galvis);李广联,广义多尺度有限元方法的随机过采样,多尺度模型。模拟。,14, 1, 482-501 (2016) ·Zbl 1337.65148号
[27] Eric T.Chung。;叶尔钦·伊芬迪耶夫;Hou,Thomas Y.,用广义多尺度有限元方法进行自适应多尺度模型简化,J.Compute。物理。,320, 69-95 (2016) ·Zbl 1349.76191号
[28] Eric T.Chung。;Efendiev,Yalchin,高对比度多尺度流动问题的减对比度近似,多尺度模型。模拟。,8, 4, 1128-1153 (2010) ·兹比尔1211.35073
[29] Eric T.Chung。;叶尔钦·伊芬迪耶夫;梁永达,非均质介质中波浪传播的广义多尺度有限元方法,多尺度模型。模拟。,12, 4, 1691-1721 (2014) ·Zbl 1315.65085号
[30] 钟,埃里克·T。;叶尔钦·伊芬迪耶夫;Leung,Wing Tat,残差驱动的在线广义多尺度有限元方法,J.Compute。物理。,302, 176-190 (2015) ·Zbl 1349.65615号
[31] Eric T.Chung。;叶尔钦·伊芬迪耶夫;Leung,Wing Tat,非均匀介质流动的在线广义多尺度间断Galerkin方法(GMsDGM),Commun。计算。物理。,21, 2, 401-422 (2017) ·Zbl 1488.65609号
[32] Eric T.Chung。;叶尔钦·伊芬迪耶夫;梁永达,约束能量最小化广义多尺度有限元法,计算。方法应用。机械。工程,339298-319(2018)·Zbl 1440.65195号
[33] Eric T.Chung。;叶尔钦·伊芬迪耶夫;李广联;Vasilyeva,Maria,多孔非均匀区域问题的广义多尺度有限元方法,应用。分析。,95, 10, 2254-2279 (2016) ·Zbl 1457.65189号
[34] Eric T.Chung。;梁永达;Vasilyeva,Maria,多孔域中二阶椭圆问题的混合GMsFEM,J.Compute。申请。数学。,304, 84-99 (2016) ·Zbl 1382.65382号
[35] 叶尔钦·伊芬迪耶夫;胡安·加维斯(Juan Galvis);Hou,Thomas Y.,广义多尺度有限元方法(GMsFEM),J.Compute。物理。,251, 116-135 (2013) ·Zbl 1349.65617号
[36] 叶尔钦·伊芬迪耶夫;胡安·加维斯(Juan Galvis);拉扎罗夫,R。;穆恩,M。;Sarkis,Marcus,广义多尺度有限元法。对称内部惩罚耦合,J.Compute。物理。,255,1-15(2013)·Zbl 1349.76199号
[37] 叶尔钦·伊芬迪耶夫;胡安·加尔维斯;李广联;Presho,Michael,广义多尺度有限元方法:过采样策略,国际多尺度计算杂志。工程,12,6(2014)·Zbl 1388.65146号
[38] Hou,Thomas Y。;吴晓辉,复合材料和多孔介质椭圆问题的多尺度有限元方法,J.Compute。物理。,134, 1, 169-189 (1997) ·Zbl 0880.73065号
[39] 伊恩·古德费罗;约书亚·本吉奥;Aaron Courville,《深度学习》(2016),麻省理工学院出版社·Zbl 1373.68009号
[40] 瓦斯瓦尼,阿什什;诺姆·沙泽尔;尼基·帕玛;乌兹科雷特,雅各布;琼斯,利昂;Gomez,Aidan N。;凯撒,Ł卡斯;伊利亚州Polosukhin,《注意力是你所需要的一切》(《神经信息处理系统进展》(2017)),5998-6008
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。