×
刘玉英;科林·蓬斯;史蒂文·布鲁顿。;J.Nathan Kutz

多分辨率卷积自动编码器。 （英语） Zbl 07640558号

J.计算。物理学。 474，文章ID 111801，第15页（2023）.
总结：我们建议多分辨率卷积自动编码器（MrCAE）体系结构集成并利用了三种非常成功的数学体系结构：（i）多重网格方法，（ii）卷积自动编码器和（iii）转移学习。该方法提供了一种自适应的层次结构，利用了多尺度时空数据的渐进训练方法。该框架允许跨多个尺度的输入：从紧凑的（少量权重）网络结构和低分辨率数据开始，我们的网络以原则性的方式逐步加深和扩大自身，以根据其当前重建性能在高分辨率数据中编码新信息。应用基本的转移学习技术，确保从之前的训练步骤中学习到的信息可以快速转移到更大的网络。因此，网络可以动态捕获网络不同深度的不同尺度特征。通过对合成示例和真实时空数据的一系列数值实验，说明了这种自适应多尺度体系结构的性能提升。

MSC公司：

68泰克 人工智能
65新元 偏微分方程边值问题的数值方法
6500万 偏微分方程、初值和含时初边值问题的数值方法

关键词：

卷积自动编码器;多分辨率分析;多重网格;迁移学习;模型缩放;多尺度动力学

软件：

净2Net;VAMP网络;MgNet公司;ImageNet公司;效率网;AlexNet公司
PDF格式BibTeX公司 XML格式引用
\textit{Y.Liu}等人，J.Compute。物理学。474，文章ID 111801，15 p.（2023；Zbl 07640558）
全文： 内政部 arXiv公司

参考文献：

[1] McCormick，S.F.，多重网格方法（1987），SIAM·Zbl 0659.65094号
[2] 美国特罗滕贝格。；奥斯特利，C.W。；舒勒，A.，Multigrid（2000），爱思唯尔
[3] 渭南，E。；Engquist，B.，《异质多尺度方法》，Commun。数学。科学。，1, 1, 87-132 (2003) ·Zbl 1093.35012号
[4] 魏南，E.，《多尺度建模原理》（2011），剑桥大学出版社·Zbl 1238.00010号
[5] Kevrekidis，I.G。；齿轮，C.W。；海曼，J.M。；Kevrekidid，P.G。；Runborg，O。；Theodoropoulos，C.，《无方程、粗粒度多尺度计算：使微观模拟器能够执行系统级分析》，Commun。数学。科学。，1, 4, 715-762 (2003) ·Zbl 1086.65066号
[6] 弗罗兰德，G。；Gottwald，G.A。；Hammerlindl，A.，提取多尺度系统中宏观变量及其动力学的计算方法，SIAM J.Appl。动态。系统。，13, 4, 1816-1846 (2014) ·兹比尔13203.7012
[7] 弗罗兰德，G。；Gottwald，G.A。；Hammerlindl，A.，《分析多尺度系统的无轨迹框架》，Phys。D： 非线性现象。，328, 34-43 (2016) ·Zbl 1366.65065号
[8] Gonzalez Garcia，R。；Rico-Martinez，R。；Kevrekidis，I.，分布参数系统的识别：基于神经网络的方法，计算。化学。工程师，22，S965-S968（1998）
[9] Saegusa，R。；坂野，H。；Hashimoto，S.，《保持主成分顺序的非线性主成分分析》，神经计算，61，57-70（2004）
[10] Yang，L.等人。；张，D。；Karniadakis，G.E.，《随机微分方程的物理信息生成对抗网络》（2018年），预印本
[11] Wehmeyer，C。；Noé，F.，《时间标记自动编码器：分子动力学缓慢集体变量的深度学习》，J.Chem。物理。，148，第241703条pp.（2018）
[12] 马特，A。；Pasquali，L。；吴，H。；No.é，F.，《VAMPnets:分子动力学的深度学习》，美国国家通讯社。，9, 5 (2018)
[13] Lusch，B。；库茨，J.N。；Brunton，S.L.，《非线性动力学普遍线性嵌入的深度学习》，国家通讯社。，9, 1, 4950 (2018)
[14] 冠军K。；Lusch，B。；库茨，J.N。；Brunton，S.L.，《坐标和控制方程的数据驱动发现》（2019年），预印本·Zbl 1433.68396号
[15] He，J。；Xu，J.，MgNet:多重网格和卷积神经网络的统一框架，科学。中国数学。，62, 7, 1331-1354 (2019) ·Zbl 1476.65026号
[16] 莱斯，M。；佩迪卡里斯，P。；Karniadakis，G.，《基于物理的神经网络：用于解决涉及非线性偏微分方程的正向和反向问题的深度学习框架》，J.Compute。物理。，378, 686-707 (2019) ·兹比尔1415.68175
[17] 莱斯，M。；亚兹达尼，A。；Karniadakis，G.E.，《隐藏流体力学：从流动可视化中学习速度和压力场》，《科学》，367，6481，1026-1030（2020）·Zbl 1478.76057号
[18] Fukami，K。；Nakamura，T。；Fukagata，K.，基于卷积神经网络的分层自动编码器，用于流场数据的非线性模式分解，Phys。流体，32，9，第095110条，第（2020）页
[19] 古德费罗，I。；Y.本吉奥。；A.Courville，《深度学习》（2016），麻省理工学院出版社·Zbl 1373.68009号
[20] Krizhevsky，A。；Sutskever，I。；Hinton，G.E.，用深度卷积神经网络进行ImageNet分类，（神经信息处理系统进展（2012）），1097-1105
[21] 塞格迪，C。；刘伟。；贾毅。；Sermanet，P。；里德，S。；安格洛夫，D。；Erhan，D。；Vanhoucke，V.公司。；Rabinovich，A.，深入卷积，（IEEE计算机视觉和模式识别会议论文集（2015）），1-9
[22] Simonyan，K。；Zisserman，A.，用于大规模图像识别的甚深卷积网络（2014），预印本
[23] 徐，B。；Wang，N。；Chen，T。；Li，M.，卷积网络中校正激活的实证评估（2015），预印本
[24] Zagoruyko，S。；Komodakis，N.，《广域残余网络》（2016），预印本
[25] He，K。；张，X。；任，S。；Sun，J.，图像识别的深度残差学习，（IEEE计算机视觉和模式识别会议（CVPR）（2016年6月））
[26] 洛夫，S。；Szegedy，C.，《批量规范化：通过减少内部协变量偏移加快深层网络训练》（2015），预印本
[27] Alom，M.Z。；塔哈，T.M。；雅科普西奇，C。；Westberg，S。；Sidike，P。；Nasrin，M.S。；Van Esesn，公元前。；Awwal，A.A.S。；Asari，V.K.，《历史始于AlexNet:深度学习方法的综合调查》（2018年），预印本
[28] Tan，M。；Le，Q.V.，EfficientNet:卷积神经网络模型缩放的再思考（2019），预印本
[29] 刘，C。；Zoph，B。；Neumann，M。；Shlens，J。；华，W。；李立杰。；费菲，L。；尤耶，A。；黄，J。；Murphy，K.，Progressive neural architecture search，（欧洲计算机视觉会议（ECCV）论文集（2018）），19-34
[30] Zoph，B。；Le，Q.V.，《强化学习的神经架构搜索》（2016），预印本
[31] Chen，T。；古德费罗，I。；Shlens，J.，Net2Net:通过知识转移加速学习（2015），预印本
[32] 杜松子酒，C。；Lusch，B。；Brunton，S.L。；Kutz，J.N.，线性化PDE的全球坐标变换深度学习模型（2019），预印本
[33] Rudy，S.H。；库茨，J.N。；Brunton，S.L.，《动力学深度学习和带时间步进约束的信号-噪声分解》，J.Compute。物理。，396, 483-506 (2019) ·Zbl 1452.68170号
[34] 本纳，P。；古吉丁，S。；Willcox，K.，参数动力系统基于投影的模型约简方法综述，SIAM Rev.，57，48483-531（2015）·Zbl 1339.37089号
[35] Kutz，J.N.，《数据驱动建模与科学计算：复杂系统与大数据的方法》（2013），牛津大学出版社·Zbl 1280.65002号
[36] Brunton，S.L。；Kutz，J.N.，《数据驱动科学与工程：机器学习、动力系统和控制》（2019），剑桥大学出版社·Zbl 1407.68002号
[37] Quarteroni，A。；Rozza，G.，建模和计算简化的降阶方法，第9卷（2014），Springer·Zbl 1280.65004号
[38] 赫塞文，J.S。；Rozza，G。；Stamm，B.，参数化偏微分方程的认证简化基方法，第590卷（2016），Springer·Zbl 1329.65203号
[39] Taira，K。；Brunton，S.L。；道森，S。；罗利，C.W。；科隆尼乌斯，T。；McKeon，B.J。；施密特，O.T。；戈尔德耶夫，S。；提奥菲利斯，V。；Ukeiley，L.S.，《流体流动的模态分析：概述》，AIAA J.，55，12，4013-4041（2017）
[40] 伯杰，M.J。；Colella，P.，《冲击流体动力学的局部自适应网格细化》，J.Compute。物理。，82, 1, 64-84 (1989) ·Zbl 0665.76070号
[41] Brunton，S.L。；Noack，B.R。；Koumoutsakos，P.，《流体力学的机器学习》，年。流体力学版次。，52, 477-508 (2020) ·Zbl 1439.76138号
[42] 毛晓杰。；沈，C。；Yang，Y.-B.，使用具有对称跳跃连接的卷积自动编码器进行图像恢复（2016），预打印
[43] 李，Y。；Perlman，E。；Wan，M。；Yang，Y。；梅内沃，C。；伯恩斯，R。；陈，S。；Szalay，A。；Eyink，G.，《公共湍流数据库集群及其在湍流速度增量拉格朗日演化研究中的应用》，J.Turbul。，9，N31（2008）·Zbl 1273.76210号
[44] Perlman，E。；伯恩斯，R。；李，Y。；Meneveau，C.，使用数据库集群进行湍流模拟的数据探索，（2007年ACM/IEEE超级计算会议论文集（2007），ACM），23
[45] 格雷厄姆·J。；卡诺夫，K。；杨，X。；李，M。；马来亚州。；拉莱斯库，C。；伯恩斯，R。；Eyink，G。；Szalay，A。；Moser，R.，湍流通道流量的web服务可访问数据库及其用于测试LES的新整体墙模型，J.Turbul。，17, 2, 181-215 (2016)
[46] 卡诺夫，K。；伯恩斯，R。；拉莱斯库，C。；Eyink，G.，《约翰·霍普金斯湍流数据库：湍流研究的开放模拟实验室》，计算。科学。工程师，17，5，10-17（2015）
[47] 杨，P。；Donzis，D。；Sreenivasan，K.，《高雷诺数湍流模拟中的耗散、焓化和压力统计》，《流体力学杂志》。，700, 5-15 (2012) ·Zbl 1248.76089号
[48] Mallat，S.，《理解深卷积网络》，Philos。事务处理。R.Soc.A，数学。物理学。工程科学。，3742065，第20150203条，第（2016）页
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。