渭南E

普林斯顿大学
美国新泽西州普林斯顿08544-1000。
电话:(609)258-3683~传真:(609)258-1735
weinan@math.princeton.edu


冯康教授诞辰100周年演讲幻灯片,“机器学习与计算数学”
MSML2020演讲幻灯片,“对机器学习的数学理解:我们知道的和不知道的”
IPAM演讲的幻灯片,“基于多尺度学习的机器建模”
在蒙特利的演讲幻灯片,“基于深度学习的高维偏微分方程和控制算法”
2019年ICIAM演讲幻灯片,“机器学习:数学理论和科学应用”

视角

渭南E,“应用数学新时代的曙光” , 美国数学学会通知,2021年4月。

最近的评论文章

渭南E,“机器学习与计算数学” 2020年。
魏南娥、马朝伟、吴磊,在数学上理解基于神经网络的机器学习:我们知道的和不知道的” 2020年。
魏南娥,韩洁群,阿努尔夫·詹岑,求解高维偏微分方程的算法:来自“机器学习的非线性蒙特卡罗方法” 2020年。
魏南娥,韩洁群,张林峰,“将机器学习与基于物理的建模相结合” 2020年。

当前研究兴趣和重点:

(1) 从数学角度看机器学习


机器学习的连续公式(论文10,17,34)

广义误差的类蒙特卡罗估计浅层和深层神经网络模型(论文28,29,30)

随机梯度下降算法的SDEs分析(论文2、6、7)

(2) 科学计算问题的机器学习


第一种基于机器学习的高维求解算法控制问题(论文4)。

第一个基于机器学习的求解高维非线性偏微分方程的算法(论文8、9、15)

(3) 将机器学习与物理建模相结合


原子间势的端到端神经网络模型势)和分子动力学(基于深势的分子动力学或DeePMD)(论文14、16、22)。

自动并行学习算法原子间势的数据生成与机器学习模型(DP-GEN)(论文24)。

基于机器学习的矩闭合水动力模型对于动力学方程(论文32)。

近期出版物列表:

64.方立东、裴戈、张磊、黄磊、渭南E,“DeePN2:基于深度学习的非牛顿流体力学模型” 2021年。
63.韩洁群,杨玉成,渭南鄂,“DeepHAM:具有聚合冲击的异构代理模型的全局解决方法” 2021年。
62.张露露、罗涛、张耀玉、鄂渭南、徐志勤、马峥,一种基于网络学习的PDEs模型求解方法 2021年。
61.张林峰,王涵,玛莉亚·卡罗琳娜·穆尼兹,阿塔纳西奥斯·Z·帕纳吉奥普洛斯,罗伯托汽车,渭南E,“具有长程静电相互作用的深电势模型” 2021年。
60.杨红康和渭南E,“从鉴别器的角度看GAN的泛化误差” 2021年。
59.张林峰、王涵、罗伯托·卡尔、渭南E,“深水势水模型的相图” ,物理。版次。利特。126236001–发布于2021年6月9日。
物理概论“预测水相的有效方法” .
58.龙吉浩、韩洁群、渭南鄂,高维强化学习的二语分析近似值” 2021年。
57.王东东、张林峰、王涵、渭南E,“使用自适应增强的高维自由能景观的有效采样动力学” 2021年。
56.王庆灿和渭南E,连续时间隐马尔可夫的期望最大化算法模型“ 2021年。
斯蒂芬·沃伊特南55岁,在神经末梢和倒数第二层出现四面体对称网络分类器” 2020年。
54.韦南·E·斯蒂芬·沃伊托维奇,“关于Barron和多层空间中偏微分方程的一些观察” 2020年。
53.杨洪康、渭南鄂,“概括与记忆:偏势模型” 2020年。
52.韦南·E·斯蒂芬·沃伊托维奇,“使用神经网络对分类问题的先验估计” 2020年。
51.杨玉成、庞越岳、黄冠华、渭南鄂,“知识图宏观经济分析与另类大数据” 2020年。
50.杨玉成、钟正、渭南E,面板可解释神经网络经济学中的数据分析 2020年。
49.马超、吴磊、魏南娥,适应性动态行为的定性研究梯度算法” 2020年。
48.李忠、韩洁群、渭南鄂、李乾孝,“关于递归神经网络中的记忆诅咒:近似与优化分析” 2020年。
47.于海钧、田欣媛、魏南娥、李乾孝,OnsagerNet:使用广义Onsager原理 2020年。
46.马超、吴磊、魏南娥,“广义误差的缓慢恶化随机特征模型” 2020年。
45.陈一霄、张林峰、汪涵、鄂渭南,DeePKS:一种综合的数据驱动的化学方法精确密度泛函理论 2020年。
44.韦南·E·斯蒂芬·沃伊托维奇,关于多层ReLU网络的Banach空间:函数表象、近似理论与梯度下降动力学 2020年。
43.谢平臣,渭南E,粗粒度光谱投影(CGSP):一个可伸缩的基于可并行深度学习的量子幺正动力学方法 2020年。
42.马超,吴磊,渭南鄂,梯度下降的猝灭激活行为两层神经网络模型的动力学 2020年。
41.韦南·E·斯蒂芬·沃伊托维奇,“Barron函数的表示公式和点态属性” 2020年。
40.斯蒂芬·沃伊托维奇,韦南E,浅层神经网络能克服维数的诅咒吗?平均场训练“透视图” 2020年。
39.韦南·E·斯蒂芬·沃伊托维奇,“机器学习中的Kolmogorov宽度衰减和差逼近器:浅层神经网络,随机特征模型和神经切线核 2020年。
38.陈一霄,张林峰,王涵,渭南E,“哈特瑞和基态能量效率” 2020年。
37.贾维乐、王涵、陈默汉、卢登辉、刘继端、林林、罗伯托汽车、渭南E、,张林峰,把分子动力学的从头算精度的极限推到1亿个原子机器学习” 2020年。
36.黄磊、吴磊、魏南娥,基于机器学习的非牛顿流体模型分子保真度” 2020年。
35.魏南娥、马超、吴磊,“关于过参数化神经网络模型最小范数解的推广性质” 2019年。
34.渭南鄂、马超、吴磊,“持续的机器学习” 2019年。
33.渭南鄂和周亚军,“语言共性的数学模型” 2019年。
32.韩洁群、马超、马峥、渭南E,“基于一致精确机器学习的动力学方程流体动力学模型” 2019年。
31.L.F.Zhang,M.H.Chen,X.F.Wu,H.Wang,W.E.和R.Car,“Wannier功能中心的深层神经网络” 2019年。
30.W.E,C.Ma和L.Wu“巴伦空间和神经网络组合函数模型 2019年。
29.W.E.Ma和Q.C.Wang“对剩余网络的人口风险 2019年。
28.W.E,C.Ma和L.Wu“先验估计对于两层神经网络” 2019年。
27.W.E.Ma.Q.C.Wang和L.Wu“梯度分析具有跳连的深层神经网络模型的下降算法 2019年。
26.W.E,C.Ma和L.Wu比较分析两层神经网络的优化与泛化特性以及梯度下降动力学下的随机特征模型” 2019年。
25.5条。辛玉柯、张林峰、比斯瓦吉特·桑特拉、汪涵、韦南E、罗伯特A。小迪斯塔西奥,罗伯托汽车公司液态水中的同位素效应“通过深势分子动力学” 分子物理学2019年。
25.L.Zhang,D.-Y.Lin,H.Wang,R.Car和W.E,“活动材料模拟中一致精确原子间势的学习” 物理。版次。材料3023804–发布于2019年2月25日.
24.韩洁群,张林峰,渭南E,多电子薛定谔方程的求解深层神经网络” 计算物理学杂志399,1089292019年。
23.L.Wu,C.Ma和W.E,“SGD如何在过度参数化学习中选择全局最小值:稳定性观点” 2018年。
22.L.Zhang,J.Han,H.Wang,W.Saidi,R.Car和W.E,“有限和扩展系统的端到端对称保持原子间势能模型” 2018年。
21.张磊、韩俊杰、王海红、车瑞、王伟,“DeepPCG:建造通过深层神经网络的粗粒度模型” J、 化学。物理。149034101(2018年);https://doi.org/10.1063/1.5027645.
20.张、魏、王发电机的孟安流正在建模“” 阿尔十四。org/abs/1809.101882018
陈丽娥和陈丽秋,“基于最大原理的深度学习算法” JMLR公司,第18卷,第165期,第1-29页,2018年,https://arxiv.org/pdf/1710.09513v1.pdf。
18.C.Ma。J、 C.王和W.E,“模型缩减动态系统的记忆和机器学习 通信计算机。物理。,第25卷第4期,第947-962页,2019年,
17.W.E,J.Han an Q.Li,“深度学习的平均场最优控制公式” 数学科学研究,第6卷,第10期,2018年。
16.张立夫、韩俊杰、R.Car、H.Wang和W.E,“深势分子动力学:具有量子力学精确性的可伸缩模型” 物理。版次。利特。,第120卷,第14期,143001页,2018年。
15.J.Han,A.Jentzen和W.E,“使用深度学习解决高维偏微分方程” 程序。自然。阿卡德。科学。,第115卷,第34期,第8505-8510页,2018年。
14.J.Han,L.F.Zhang,R.Car和W.E,“深层潜力:A多体势能面的一般表示 通信计算机。物理。,第23卷,第3期,第629-639页,2018年
Wang和Wang.Q13深度神经网络逼近的指数收敛性分析函数“” 科学中国数学,第61卷第10期,第1733–1740页,2018年
12.L.F.Zhang,H.Wang和W.E,“大型原子和分子系统中增强取样的增强动力学。I.基本方法” J、 化学。物理。,第148卷,第1241132018页。
11.王浩,张立夫,韩俊和王伟,“DeePMD工具包:多体势能表示和分子动力学的深度学习包” 计算机。物理。通信。,第228卷,第178-184页,2018年。
10.西海岸,“关于通过动态系统进行机器学习的建议” 通信数学。斯达。,第5卷,第1期。,2017年第1-11页。
9.W.E和B.Yu,“Deep-Ritz方法:一种基于深度学习的求解变分问题的数值算法” 通信数学。统计数据。,第6卷,第1期,第1-12页。2018
8.W.E,J.Han和A.Jentzen,“基于深度学习的高维抛物型偏微分方程和倒向随机微分方程的数值方法” 通信数学。统计数据。,第5卷,第4期,第349-380页,2017年。
7.李Q,C.Tai和W.E,“随机修正方程和随机梯度算法的动力学” JMLR公司,第20卷,第40期,第1-47页,2019年。
6.李Q,C.Tai和W.E,“随机修正方程和自适应随机梯度算法” ICML2017年。
5.W.E.和Y.Wang,
“通用逼近误差的最佳收敛速度” 数学科学研究,第4卷,第2期,2017年。
4.J.Han和W.E,“随机控制问题的深度学习近似” 阿尔十四。org/abs/1611.07422,NIPS深度强化学习研讨会2016年。
3.C.Tai和W.E,“信号的多尺度自适应表示,I” JMLR公司,第17卷,第140期,第1-38页,2016年。
2.李克强、泰春风和王伟,“随机梯度算法动力学” 2016年
1.泰春生、肖铁生、王小X、王伟,低秩卷积神经网络正规化'' ICLR2016年。

多级Picard方法:

韦南E,马丁·哈岑塔尔,阿努尔夫·詹森和托马斯·克鲁斯,“求解光滑半线性抛物型热方程的多级Picard迭代法” 2016年。

研究:

我目前的工作集中在机器学习的数学理论上将机器学习与多尺度建模相结合。

研究综述:我的作品从各种各样的并在流体力学、化学、材料等方面产生了影响科学和软凝聚态物理。我为解决一些长期存在的科学问题,如Burgers湍流问题(即是Burgers提出著名的Burgers方程式的最初动机,关于晶体固体的柯西定律(实际上可以追溯到柯西为弹性理论和动接触提供了微观基础线路问题(仍然很大程度上是开放的)。清晰是一个常见的主题通过数学来解决科学问题。第二个主题是多尺度和/或多物理问题。我还致力于建立数学框架和寻找有效的数值算法来模拟罕见事件涉及多个时间尺度的困难问题(字符串法,最小值动作方法、过渡路径理论等)。我也研究过多尺度分析和算法(如异构多尺度方法)对于随机模拟算法,均匀化问题,多时间尺度,复杂流体等的问题多尺度建模,剑桥大学出版社)提供了对这个主题的广泛介绍。第三个主题是开发和分析一般的算法。在计算流体力学中,我参与分析和发展基于涡量的方法、投影方法和规范方法。在密度泛函理论(DFT)中,我和我的合作者开发了PEXSI算法,这是迄今为止最有效的DFT算法。

固体平衡熔化的微观机制
长期以来,简单固体熔化过程的微观机理一直是一个突出的问题。林德曼和马克斯·伯恩各自提出了自己的熔化准则。经典形核理论也给出了熔化路径的预测。到目前为止,还不可能对这一过程进行直接详细的理论或实验研究。然而,随着高级模拟算法(自由能采样方法、计算过渡路径的字符串方法等)的出现,现在可以通过计算来研究这些问题。

  • PEXSI网页
  • 电子结构分析,例如密度泛函理论,是材料科学和化学的核心。它也是计算科学中最具挑战性的问题之一。我们开发了PEXSI算法(极点展开+选择反演)这是第一次密度泛函理论从立方尺度到二次尺度的计算复杂性一般三维系统的标度。该算法已在SIESTA中实现。

    以下是我所从事工作的一些例子(单击“+”符号阅读更多信息):

    伯格斯湍流
    我们分析了随机Burgers方程解的统计性质初始数据和随机强迫。这一系列的工作为一些人提供了答案伯格斯在20世纪初提出的问题解决了关于概率分布渐近性的一些争议随机强迫Burgers方程的函数。
    从量子分子力学到宏观固体理论(柯西-伯恩法则及相关主题)

    这里的目标是在量子力学或分子水平上理解固体机械师。作为一个副产品,我们给出了一个严格的推导宏观连续介质模型的固体。分析中的一个关键因素是理解不同层次的稳定性条件(量子的,经典的,但原子级的,经典的,宏观的)。

    随机偏微分方程
    我们开发了一种研究随机偏微分方程的新方法把平稳解看作随机强迫的泛函。这导致了对固定溶液的非常优雅的描述随机Burgers方程和随机被动标量方程及其遍历性随机Navier-Stokes方程。
    模拟罕见事件
    我在稀有事件建模方面的工作(任伟青、埃里克·范登艾因登合著)以开发字符串方法,现在在cmputational中非常流行化学和开始流行起来在材料科学中,以及过渡路径理论,这是一个普遍现象分析复杂系统中过渡事件的理论框架。
    多尺度方法
    我们开发了异构的框架多尺度方法(HMM)。隐马尔可夫模型在随机过程中有着很好的应用前景模拟算法,具有多时间尺度的ode,以及许多其他领域。它还为分析多尺度方法提供了一个非常好的框架。
    软凝聚态物理
    我们发展了第一个一般的非线性模型一种有趣的丝状液晶各向同性近晶相变中产生的结构。我们也有建立了膜和聚合物相分离动力学模型这和热力学是一致的。此外,我们建立了一般非均匀液晶的模型聚合物系统单粒子概率分布函数作为序参量。
    计算流体力学
    刘建国和我讲了很久涡度边界条件与数值边界层的争论对于投影法。
    后验误差估计
    我在黄教授的指导下于1985年完成了硕士学位论文洪慈,我建立了一些最早的关于后验误差估计的结果对于有限元方法。我介绍了克莱门特插值技术,并证明了局部误差估计量的上下界。
    弱KAM理论
    在尤尔根·莫瑟的影响下,我独立(独立于法提)发展了弱KAM理论。这是PDE方法首次应用于研究动力系统。最有趣的是研究Hamilton-Jacobi方程弱解对Hamilton系统的意义。这为奥布里-马瑟理论提供了一个可供选择的(而且非常简化的)观点。
    Kohn-Sham密度泛函理论的数值算法
    W、 E和王建春,“二维压力驱动槽道流动的热力学研究”, 离散与连续动力系统,第36卷,第8期,第4349-4366页,2016年。
    Q、 李和W.E,“非等比林系统的自由作用”, J、 统计物理。,第161卷,第2期,300-325,2015年。
    我所作贡献的其他主题包括:Onsager关于三维欧拉方程弱解的能量守恒,均匀化和两尺度收敛,普朗特方程解的奇异性形成旋涡,微磁学和Landau-Lifshitz方程,随机共振,等。

  • 字符串方法网页
  • HMM网页
  • 全部承包|全部展开

    多尺度问题的分析与算法

    原子固体的数学理论宏观尺度

    主要目标是发展一个严谨的数学理论对于固体。这需要了解电子、原子和连续体水平,以及它们之间的关系在这些模型之间。感兴趣的问题包括:(1)。这个固体为什么要以晶格的形式结晶零温度?(2) 一。柯西出生的规则固体原子模型和连续介质模型之间的联系。


    功能密度理论,电子结构

    主要目的是了解数学基础电子结构分析,开发和分析效率高算法。


    多尺度建模中的一般问题

    多时间尺度问题

    随机化学动力学系统

    实体的多尺度建模

    复杂流体多尺度建模

    多尺度偏微分方程的多尺度方法

    动接触线问题与微流体力学

    均匀化理论

    随机问题的分析与建模

    随机偏微分方程分析

    稀有事件:弦方法、最小作用量法和转移路径理论

    随机化学动力学系统

    ``Burgers湍流和被动标量湍流

    随机建模中的一般问题

    其他主题

    不可压缩流:投影法、涡量法和规范法

    后验误差估计

    在硕士学位论文指导下完成的工作中国科学院教授黄宏慈。主要重点是角点奇异问题的有限元分析。讨论的问题包括:后验误差估计,直接和局部精化域上的逆误差估计,收敛性此类领域的多重网格方法等。


    其他主题
    欧拉方程,边界层问题,Aubry-Mather理论,微磁学和Landau-Lifshitz方程,Ginzburg-Landau理论中的涡旋动力学
    微磁学与Landau-Lifshitz方程

    金茨堡-兰道涡

    精选评论论文