×

噪音梯度系统的自适应恒温器。 (英语) Zbl 1382.65019号

摘要:我们研究了高维抽样概率测度的数值方法,其中基础模型仅用梯度系统近似识别。讨论了扩展的随机动力学方法,这些方法应用于多尺度模型、非平衡分子动力学和新兴机器学习应用中出现的贝叶斯采样技术。除了对这些方法的基础进行更全面的讨论外,我们还为自适应Langevin/随机梯度Nosé-Hoover恒温器提出了一种新的数值方法,与文献中报道的最流行的随机梯度方法相比,该方法在数值效率上有了显著提高。我们还证明了新建立的方法继承了最近在朗之万动力学环境中证明的超收敛性质(四阶收敛到构型量的不变测度)。数值实验验证了我们的发现。

MSC公司:

65立方米 随机微分和积分方程的数值解
60小时10分 随机常微分方程(随机分析方面)
37米25 遍历理论的计算方法(不变测度的近似、Lyapunov指数的计算、熵等)
82立方31 随机方法(Fokker-Planck、Langevin等)应用于含时统计力学问题
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] A.Abdulle、G.Vilmart和K.C.Zygalakis,{遍历SDEs}不变测度的高阶数值逼近,SIAM J.Numer。分析。,52(2014),第1600-1622页·Zbl 1310.65007号
[2] A.Abdulle、G.Vilmart和K.C.Zygalakis,《朗之万动力学的李-罗特分裂方法的长期精度》,SIAM J.Numer。分析。,53(2015),第1-16页·Zbl 1327.65015号
[3] S.Ahn、A.Koratitkara和M.Welling,{通过随机梯度Fisher评分的贝叶斯后验抽样},《第29届机器学习国际会议论文集》,2012年,第1591-1598页。
[4] M.P.Allen和D.J.Tildesley,《液体计算机模拟》,牛津科学。出版物。,克拉伦登出版社,纽约,1989年·Zbl 0703.68099号
[5] R.B.Ash,{基本概率理论},多佛,米诺拉,纽约州,2008年·Zbl 1234.60001号
[6] A.Beskos、N.Pillai、G.Roberts、J.-M.Sanz-Serna和A.Stuart,{\it混合蒙特卡罗算法的优化调谐},伯努利,19(2013),第1501-1534页·Zbl 1287.60090号
[7] F.A.Bornemann、P.Nettesheim和C.Schutte,{量子经典分子动力学作为全量子动力学的近似值},《化学杂志》。物理。,105(1996),第1074-1083页。
[8] S.Brooks、A.Gelman、G.Jones和X.-L.Meng,《马尔可夫链蒙特卡罗手册》,查普曼和霍尔/CRC,佛罗里达州博卡拉顿,2011年·Zbl 1218.65001号
[9] E.Cancès、F.Legoll和G.Stoltz,分子动力学一些取样方法的理论和数值比较,ESAIM Math。模型。数字。分析。,41(2007年),第351-389页·Zbl 1138.82341号
[10] S.Chakravorty,{it Fokker-Planck-Kolmogorov方程解的同伦Galerkin方法},《2006年美国控制会议论文集》,IEEE,新泽西州皮斯卡塔韦,2006年。
[11] T.Chen、E.B.Fox和C.Guestrin,{随机梯度哈密尔顿蒙特卡罗},《第31届机器学习国际会议论文集》,2014年,第1683-1691页。
[12] M.Dashti和A.M.Stuart,{逆向问题的贝叶斯方法},预印本,http://arxiv.org/abs/1302.6989arXiv:1302.6989 v1[数学.PR],2013年·Zbl 1234.35309号
[13] A.Debussche和E.Faou,{SDEs的弱向后误差分析},SIAM J.Numer。分析。,50(2012),第1735-1752页·Zbl 1256.65002号
[14] N.Ding,Y.Fang,R.Babbush,C.Chen,R.D.Skeel和H.Neven,{使用随机梯度恒温器的贝叶斯抽样},《神经信息处理系统的进展》27,Curran Associates,蒙特利尔,2014年,第3203-3211页。
[15] S.Duane、A.D.Kennedy、B.J.Pendleton和D.Roweth,《物理混合蒙特卡罗》。莱特。B、 195(1987),第216-222页。
[16] S.Dubinkina、J.Frank和B.Leimkuhler,{热浴的简化建模,应用于流体涡流系统},多尺度模型。模拟。,8(2010),第1882-1901页·Zbl 1213.80030号
[17] D.A.Fedosov和G.E.Karniadakis,{it Triple-decker:界面原子-质谱-成分流动状态},J.Compute。物理。,228(2009),第1157-1171页·Zbl 1330.76102号
[18] D.Frenkel和B.Smit,《理解分子模拟:从算法到应用》,第2版,学术出版社,佛罗里达州奥兰多,2001年·Zbl 0889.65132号
[19] D.Givon、R.Kupferman和A.Stuart,《提取宏观动力学:模型问题和算法》,《非线性》,17(2004),第R55-R127页·Zbl 1073.82038号
[20] E.Hairer、C.Lubich和G.Wanner,《几何-数值积分:常微分方程的结构保持算法》,Springer-Verlag,柏林,2006年·Zbl 1094.65125号
[21] C.Hijoín、P.Espan͂ol、E.Vanden-Eijnden和R.Delgado-Buscalioni,{作为实用计算工具的Mori-Zwanzig形式主义},法拉第讨论,144(2010),第301-322页。
[22] J.O.Hirschfelder,{经典和量子力学超循环定理},J.Chem。物理。,33(1960年),第1462-1466页。
[23] A.M.Horowitz,{广义引导蒙特卡罗算法},Phys。莱特。B、 268(1991),第247-252页。
[24] D.G.Horvitz和D.J.Thompson,{它是从有限宇宙中不替换抽样的推广},J.Amer。统计师。协会,47(1952),第663-685页·Zbl 0047.38301号
[25] P.H.Huönenberger,{分子动力学模拟的恒温器算法},高级聚合物科学。,173(2005),第105-149页。
[26] A.Jones和B.Leimkuhler,《取样驱动分子系统的自适应随机方法》,J.Chem。物理。,135 (2011), 084125.
[27] E.E.Keaveny、I.V.Pivkin、M.Maxey和G.E.Karniadakis,《耗散粒子动力学与简单和复杂几何流的分子动力学的比较研究》,J.Chem。物理。,123 (2005), 104107.
[28] A.D.Kennedy和B.Pendleton,混合蒙特卡罗中的接受和自相关,Nucl。物理学。B(Proc.Supp.),20(1991),第118-121页。
[29] P.E.Kloeden和E.Platen,《随机微分方程的数值解》,Springer-Verlag,柏林,1992年·Zbl 0752.60043号
[30] F.Legoll、M.Luskin和R.Moeckel,{鼻子的非退化性©胡佛恒温谐振子},Arch。定额。机械。分析。,184(2006),第449-463页·Zbl 1122.82002号
[31] F.Legoll、M.Luskin和R.Moeckel,《鼻子的非变性》,《非线性》,22(2009),第1673-1694页·Zbl 1173.37066号
[32] B.Leimkuhler,《Gibbs-Boltzmann测度取样的广义Bulgac-Kusnezov方法》,Phys。E版,81(2010),026703。
[33] B.Leimkuhler、D.T.Margul和M.E.Tuckerman,{大时间步长分子动力学的随机无共振多时间步长算法},分子物理学。,111(2013),第3579-3594页。
[34] B.Leimkuhler和C.Matthews,《分子取样随机数值方法的合理构造》,应用。数学。Res.Express公司。AMRX,2013(2013),第34-56页·兹比尔1264.82102
[35] B.Leimkuhler和C.Matthews,《通过Langevin动力学进行稳健高效的构型分子取样》,J.Chem。物理。,138 (2013), 174102.
[36] B.Leimkuhler、C.Matthews和G.Stoltz,《平衡和非平衡Langevin分子动力学平均值的计算》,IMA J.Numer。分析。,36(2016),第13-79页·Zbl 1347.65014号
[37] B.Leimkuhler、E.Noorizadeh和F.Theil,《分子动力学的温和随机恒温器》,J.Stat.Phys。,135(2009),第261-277页·Zbl 1179.82065号
[38] B.Leimkuhler和S.Reich,《模拟哈密顿动力学》,剑桥大学出版社,英国剑桥,2005年·Zbl 1069.65139号
[39] B.Leimkuhler和X.Shang,{关于耗散粒子动力学和相关系统的数值处理},J.Compute。物理。,280(2015),第72-95页·Zbl 1349.76705号
[40] Z.Li,X.Bian,B.Caswell和G.E.Karniadakis,{通过Mori-Zwanzig公式构建复杂流体的耗散粒子动力学模型},《软物质》,10(2014),第8659-8672页。
[41] M.Liísal和J.K.Brennan,《剪切下层状二嵌段共聚物相的对齐:耗散粒子动力学模拟的洞察力》,Langmuir,23(2007),第4809-4818页。
[42] J.C.Mattingly、A.M.Stuart和D.J.Higham,{SDE和近似的遍历性:局部Lipschitz向量场和退化噪声},随机过程。申请。,101(2002),第185-232页·Zbl 1075.60072号
[43] N.Metropolis、A.W.Rosenbluth、M.N.Rosenbluth、A.H.Teller和E.Teller,《快速计算机器的状态方程》,J.Chem。物理。,21(1953年),第1087-1092页·Zbl 1431.65006号
[44] L.Mones、A.Jones、A.W.Go­tz、T.Laino、R.C.Walker、B.Leimkuhler、G.Csaínyi和N.Bernstein,{it CP\textup2K和AMBER软件包}中的自适应缓冲力QM/MM方法,J.Compute。化学。,36(2015),第633-648页。
[45] C.Pastorino、T.Krer、M.Muöller和K.Binder,高分子系统非平衡模拟耗散粒子动力学和Langevin恒温器的比较},Phys。E版,76(2007),026706。
[46] S.Patterson和Y.W.Teh,{概率单纯形上的随机梯度黎曼-朗之万动力学},《神经信息处理系统进展》26,Curran Associates,南塔霍湖,内华达州,2013年,第3102-3110页。
[47] B.L.Peters、A.Ramiírez-Hernaíndez、D.Q.Pike、M.Muíller和J.J.de Pablo,《稳态剪切下层状嵌段共聚物的非平衡模拟:耗散粒子动力学和布朗动力学的比较》,《大分子》,45(2012),第8109-8116页。
[48] M.Praprotnik、L.Delle Site和K.Kremer,《自适应分辨率分子动力学模拟:动态改变自由度》,J.Chem。物理。,123 (2005), 224106. ·Zbl 1114.81340号
[49] M.Praprotnik、L.Delle Site和K.Kremer,《软物质的多尺度模拟:从尺度桥接到自适应分辨率》,Annu。物理版。化学。,59(2008),第545-571页。
[50] H.Risken,《福克-普朗克方程:求解方法与应用》,第二版,施普林格-弗拉格出版社,柏林,1989年·Zbl 0665.60084号
[51] C.P.Robert和G.Casella,{蒙特卡罗统计方法},第二版,Springer-Verlag,纽约,2004年·兹比尔1096.62003
[52] G.O.Roberts、A.Gelman和W.R.Gilks,{随机游走都市算法的弱收敛性和最优尺度},Ann.Appl。概率。,7(1997),第110-120页·Zbl 0876.60015号
[53] G.O.Roberts和J.S.Rosenthal,{离散近似对朗之万扩散的最佳缩放},J.R.Stat.Soc.Ser。B.统计方法。,60(1998年),第255-268页·Zbl 0913.60060号
[54] G.O.Roberts和R.L.Tweedie,{Langevin分布及其离散近似的指数收敛},Bernoulli,2(1996),第341-363页·Zbl 0870.60027号
[55] A.A.Samoletov、C.P.Dettmann和M.A.J.Chaplain,{“慢速”构型模式的恒温器},J.Stat.Phys。,128(2007),第1321-1336页·兹比尔1128.82006
[56] A.A.Samoletov、C.P.Dettmann和M.A.J.Chaplain,《组态恒温器方案注释》,J.Chem。物理。,132 (2010), 246101.
[57] X.Shang,Z.Z.Zu,B.Leimkuhler和A.J.Storkey,{用于大规模贝叶斯采样的协方差控制自适应Langevin恒温器},《神经信息处理系统的进展》28,Curran Associates,蒙特利尔,2015年,第37-45页。
[58] T.Soddemann、B.Duönweg和K.Kremer,《耗散粒子动力学:平衡和非平衡分子动力学模拟的有用恒温器》,Phys。E版,68(2003),046702。
[59] L.Stella、C.D.Lorenz和L.Kantorovich,《广义Langevin方程:开放系统非平衡分子动力学的有效方法》,Phys。B版,89(2014),134303。
[60] D.Talay和L.Tubaro,{求解随机微分方程数值格式的全局误差展开},随机分析。申请。,8(1990年),第483-509页·Zbl 0718.60058号
[61] Y.W.Teh、A.Thieíry和S.Vollmer,{随机梯度Langevin动力学的一致性和波动},预印本,http://arxiv.org/abs/1409.0578arXiv:1409.0578v1[stat.ML],2014年·Zbl 1360.60144号
[62] S.J.Vollmer、K.C.Zygalakis和Y.W.Teh,{随机梯度Langevin动力学的(非)渐近性质},预印本,http://arxiv.org/abs/1501.00438arXiv:1501.00438v1[stat.ME],2015年。
[63] M.Welling和Y.W.Teh,{通过随机梯度Langevin动力学的贝叶斯学习},《第28届机器学习国际会议论文集》,2011年,第681-688页。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。