×

相互作用的朗之万扩散:梯度结构和集合卡尔曼采样器。 (英语) Zbl 1447.65119号

给出了一种新的不使用正问题的导数或伴随求解反问题的方法。给出了其分析框架,并给出了该方法实用性的数值证据。起始点是过阻尼Langevin扩散的集合,这些扩散通过单个预条件进行相互作用,计算为经验集合协方差。结果表明,由相关随机微分方程的平均场极限产生的非线性Fokker-Planck方程具有基于Wasserstein度量和噪声流协方差矩阵的新型梯度流结构。利用这种结构,研究了Fokker-Planck方程的大时间性质,并证明了其不变量测度与单个Langevin扩散的不变量测度一致。从原始随机微分方程出发,用集合差分代替精确梯度,提出了一种新的集合卡尔曼反演算法的噪声变量。数值结果表明了该算法的有效性。

MSC公司:

65N21型 含偏微分方程边值问题反问题的数值方法
84年第35季度 福克-普朗克方程
2015年1月62日 贝叶斯推断
65立方米 随机微分和积分方程的数值解
65立方厘米 随机粒子方法
82M60毫米 统计力学中的随机分析
82立方31 随机方法(福克-普朗克、朗之万等)应用于含时统计力学问题
35卢比60 随机偏微分方程的偏微分方程
65H10型 方程组解的数值计算
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] L.Ambrosio、N.Gigli和G.Savareí,《梯度流:在度量空间和概率测度空间中》,Birkha­user,巴塞尔,2005年·邮编1090.35002
[2] A.Arnold,P.Markowich,G.Toscani,and A.Unterreiter,《关于Fokker-Planck型方程的凸Sobolev不等式和收敛到平衡点的速度》,《Comm.偏微分方程》,26(2001),第43-100页,https://doi.org/10.1081/PDE-100002246。 ·Zbl 0982.35113号
[3] N.Ay、J.Jost、H.V.Lê和L.J.SchwachhoȺfer,《信息几何》,Ergeb。数学。格伦兹格布。(3) ,《数学现代调查系列》【数学及相关领域的结果】,第3辑,《数学当代调查系列》64,查姆斯普林格,2017年·Zbl 1383.53002号
[4] D.Bakry和M.Émery,《扩散超控制》,载于《概率论》第十九卷,1983/84年,《数学讲义》。1123年,柏林施普林格,1985年,第177-206页,https://doi.org/10.1007/BFb0075847。 ·Zbl 0561.60080号
[5] M.Bedard,Metropolis算法的最佳接受率:超越0.234,随机过程。申请。,118(2008),第2198-2222页·Zbl 1155.60310号
[6] M.Beídard,非身份识别目标分布的Metropolis算法的弱收敛性,Ann.Appl。概率。,17(2007),第1222-1244页·Zbl 1144.60016号
[7] M.Beídard和J.S.Rosenthal,《大都会算法的最佳缩放:朝向一般目标分布》,加拿大。J.统计。,36(2008),第483-503页·Zbl 1167.60344号
[8] K.Bergemann和S.Reich,集合卡尔曼滤波器的定位技术,Q.J.R.Meteorol。Soc.,136(2010),第701-707页。
[9] K.Bergemann和S.Reich,《缓和的集合卡尔曼滤波器》,Q.J.R.Meteorol。Soc.,136(2010),第1636-1643页。
[10] K.Bergemann和S.Reich,用于连续数据同化的集合卡尔曼-布西滤波器,Meteorol。Z.,21(2012),第213-219页。
[11] A.Carrassi、M.Bocquet、L.Bertino和G.Evensen,《地球科学中的数据同化:方法、问题和观点概述》,《WIRES气候变化》,9(2018),e535。
[12] J.A.Carrillo、Y.-P.Choi、C.Totzeck和O.Tse,基于共识的全局优化方法的分析框架,数学。模型方法应用。科学。,28(2018),第1037-1066页·Zbl 1397.35311号
[13] J.A.Carrillo、M.Fornasier、G.Toscani和F.Vecil,群集的粒子、动力学和流体动力学模型,《社会经济和生命科学中集体行为的数学建模》,模型。模拟。科学。工程技术。,Birkha用户Boston,Inc.,马萨诸塞州波士顿,2010年,第297-336页,https://doi.org/10.1007/978-0-8176-4946-3_12。 ·Zbl 1211.91213号
[14] J.A.Carrillo和G.Toscani,齐次Fokker-Planck型方程向平衡的指数收敛,数学。方法应用。科学。,21(1998),第1269-1286页,https://doi.org/10.1002/(SICI)1099-1476(19980910)21:13·Zbl 0922.35131号
[15] N.K.Chada、A.M.Stuart和X.T.Tong,《集成卡尔曼反演中的Tikhonov正则化》,预印本,https://arxiv.org/abs/1901.10382, 2019. ·Zbl 1447.35337号
[16] Y.Chen和D.S.Oliver,作为迭代集成平滑器的集成随机最大似然方法,数学。地质科学。,44(2012),第1-26页。
[17] E.Cleary、A.Garbuno-Inigo、S.Lan、T.Schneider和A.M.Stuart,《校准、模拟、样本、预打印》,https://arxiv.org/abs/2001.03689, 2020.
[18] S.L.Cotter、G.O.Roberts、A.M.Stuart和D.White,函数的MCMC方法:修改旧算法使其更快,Statist。科学。,28(2013),第424-446页·Zbl 1331.62132号
[19] D.Crisan和J.Xiong,一类SPDE的近似McKean Vlasov表示,《斯多葛学》,82(2010),第53-68页·Zbl 1211.60022号
[20] F.Daum和J.Huang,非线性滤波器的粒子流,《2011年IEEE声学、语音和信号处理国际会议论文集》,IEEE,新泽西州皮斯卡塔韦,2011年,第5920-5923页。
[21] J.de Wiljes、S.Reich和W.Stannat,用于完全观测过程和小测量噪声的集合Kalman-Bucy滤波器的长期稳定性和准确性,SIAM J.Appl。动态。系统。,17(2018),第1152-1181页,https://doi.org/10.1137/17M1119056。 ·Zbl 1391.93265号
[22] P.Del Moral,A.Kurtzmann,J.Tugaut,关于一类扩展系综Kalman-Bucy滤波器的稳定性和混沌的均匀传播,SIAM J.Control Optim。,55(2017),第119-155页,https://doi.org/10.1137/16M1087497。 ·Zbl 1356.60065号
[23] P.Del Moral和J.Tugaut,关于集合Kalman-Bucy滤波器的稳定性和混沌特性的均匀传播,Ann.Appl。概率。,28(2018),第790-850页·Zbl 1391.60082号
[24] G.Detomaso、T.Cui、Y.Marzouk、A.Spantini和R.Scheichl,《Stein变分牛顿法》,载于《第32届神经信息处理系统会议论文集》(NeurIPS 2018),加拿大蒙特利尔,《神经信息处理系统进展》31,S.Bengio,编辑,2018年,第9169-9179页。
[25] Z.Ding和Q.Li,集合卡尔曼反演的平均场极限和数值分析:线性设置,预打印,https://arxiv.org/abs/11908.0575v1, 2019.
[26] A.Duncan和L.Szpruch,私人通信,2019年。
[27] A.B.Duncan、T.Lelievre和G.Pavliotis,使用不可逆Langevin采样器减少方差,J.Statist。物理。,163(2016),第457-491页·Zbl 1343.82036号
[28] T.A.El Moselhy和Y.M.Marzouk,贝叶斯推理与最优映射,J.Compute。物理。,231(2012),第7815-7850页·Zbl 1318.62087号
[29] A.A.Emerick和A.C.Reynolds,用简单水库模型研究基于集合的方法的采样性能,计算。地质科学。,17(2013),第325-350页·Zbl 1382.86018号
[30] H.W.Engl、M.Hanke和A.Neubauer,反问题的正则化,数学。申请。375,施普林格荷兰,1996年·Zbl 0859.65054号
[31] O.G.Ernst、B.Sprungk和H.-J.Starkloff,贝叶斯反问题中的集合和多项式混沌卡尔曼滤波器分析,SIAM/ASA J.不确定性。数量。,3(2015),第823-851页,https://doi.org/10.1137/140981319。 ·Zbl 1339.60041号
[32] G.Evensen,《数据同化:集合卡尔曼滤波器》,Springer-Verlag出版社,柏林,2009年·Zbl 1395.93534号
[33] M.Girolma和B.Calderhead,Riemann流形Langevin和Hamilton Monte Carlo方法,J.Roy。统计师。Soc.序列号。B统计师。Methodol.方法。,73(2011),第123-214页·Zbl 1411.62071号
[34] O.Gonzalez,时间积分和离散哈密顿系统,非线性科学杂志。,6 (1996), 449. ·Zbl 0866.58030号
[35] J.Goodman和J.Weare,具有仿射不变性的集合采样器,Commun。申请。数学。计算。科学。,5(2010年),第65-80页·Zbl 1189.65014号
[36] S.-Y.Ha和E.Tadmor,《从粒子到植绒的动力学和流体动力学描述》,Kinet。相关。模型,1(2008),第415-435页,https://doi.org/10.3934/krm.2008.1.415。 ·Zbl 1402.76108号
[37] E.Hairer和C.Lubich,梯度系统的能量递减整合,IMA J.Numer。分析。,34(2013),第452-461页·Zbl 1321.65115号
[38] A.Halder和T.T.Georgiou,《过滤和渔道几何中的梯度流》,预印本,https://arxiv.org/abs/1710.00064, 2017.
[39] M.Herty和G.Visconti,反问题的动力学方法,预印本,https://arxiv.org/abs/1811.09387, 2018. ·Zbl 1420.35417号
[40] A.R.Humphries和A.M.Stuart,耗散和梯度动力系统的Runge-Kutta方法,SIAM J.Numer。分析。,31(1994),第1452-1485页,https://doi.org/10.1137/0731075。 ·Zbl 0807.34057号
[41] M.A.Iglesias,水库模型中集合数据同化的迭代正则化,计算。地质科学。,19(2015),第177-212页·Zbl 1330.86015号
[42] M.A.Iglesias,PDE约束反问题的正则化迭代集合卡尔曼方法,反问题,32(2016),025002·Zbl 1334.65110号
[43] M.A.Iglesias、K.J.Law和A.M.Stuart,反问题的集合卡尔曼方法,反问题,29(2013),045001·Zbl 1311.65064号
[44] P.-E.Jabin和Z.Wang,随机粒子系统的平均场极限,载于《活性粒子》,第一卷,模型。模拟。科学。工程技术。,Birkha¨user,Cham,2017年,第379-402页,https://doi.org/10.1007/978-3-319-49996-3_10。
[45] R.Jordan、D.Kinderlehrer和F.Otto,福克-普朗克方程的变分公式,SIAM J.Math。分析。,29(1998),第1-17页,https://doi.org/10.1137/S0036141096303359。 ·Zbl 0915.35120号
[46] J.Kaipio和E.Somersalo,统计和计算反问题,应用。数学。科学。160,Springer-Verlag,纽约,2006年·Zbl 1068.65022号
[47] R.E.Kalman,线性滤波和预测问题的新方法,Trans。ASME系列。D J.基础工程,82(1960),第35-45页。
[48] R.E.Kalman和R.S.Bucy,线性滤波和预测理论的新结果,Trans。ASME系列。D J.基础工程,83(1961),第95-108页。
[49] D.T.Kelly、K.Law和A.M.Stuart,离散和连续时间集合卡尔曼滤波器的稳健性和准确性,《非线性》,27(2014),第2579-2603页·Zbl 1305.62323号
[50] N.B.Kovachki和A.M.Stuart,《集成卡尔曼反演:机器学习任务的无导数技术》,预印本,https://arxiv.org/abs/1808.03620, 2018. ·Zbl 1430.68266号
[51] J.D.Lafferty,密度流形与组态空间量化,Trans。阿默尔。数学。Soc.,305(1988),第699-741页·Zbl 0642.58009号
[52] R.S.Laugesen、P.G.Mehta、S.P.Meyn和M.Raginsky,非线性滤波中的泊松方程,SIAM J.控制优化。,53(2015),第501-525页,https://doi.org/10.1137/1094743X。 ·Zbl 1319.35010号
[53] K.Law、A.Stuart和K.Zygalakis,《数据同化:数学导论》,文本应用。数学。62,施普林格国际出版公司,瑞士,2015年·Zbl 1353.60002号
[54] B.Leimkuhler和C.Matthews,《分子动力学:用确定性和随机数值方法》,Interdiscip。申请。数学。39,施普林格国际出版公司,瑞士,2016年。
[55] B.Leimkuhler、C.Matthews和J.Weare,马尔可夫链蒙特卡罗模拟的集成预处理,统计计算。,28(2018),第277-290页·Zbl 1384.65004号
[56] B.Leimkuhler、E.Noorizadeh和F.Theil,《分子动力学的温和随机恒温器》,J.Statist。物理。,135(2009),第261-277页·Zbl 1179.82065号
[57] 李伟,通过最优传输的概率单纯形几何,预印本,https://arxiv.org/abs/1803.06360, 2018.
[58] W.Li,A.Lin,和G.Montuífar,Affine natural neximal learning,摘自《国际信息几何科学会议论文集》(GSI 2019):《信息几何科学》,计算机课堂讲稿。科学。11712,施普林格,查姆,2019年,第705-714页·Zbl 1458.62115号
[59] W.Li和G.Montufar,通过最佳运输实现自然梯度,预印本,https://arxiv.org/abs/1803.07033, 2018. ·Zbl 1409.62022号
[60] Q.Liu和D.Wang,Stein变分梯度下降:一种通用贝叶斯推理算法,载于《第三十届神经信息处理系统会议论文集》(NIPS 2016),西班牙巴塞罗那,《神经信息处理体系的进展》29,D.D.Lee等编,2016年,第2378-2386页。
[61] J.Lu、Y.Lu和J.Nolen,Stein变分梯度下降的尺度极限,第一部分:平均场状态,预印本,https://arxiv.org/abs/11805.04035v1, 2018. ·Zbl 1417.35189号
[62] S.Machlup和L.Onsager,波动和不可逆过程II:具有动能的系统,物理。第(2)版,91(1953),第1512-1515页·Zbl 0053.15107号
[63] A.J.Majda和J.Harlim,《过滤复杂湍流系统》,剑桥大学出版社,2012年·Zbl 1250.93002号
[64] P.A.Markowich和C.Villani,《Fokker-Planck方程的平衡趋势:物理和泛函分析之间的相互作用》,偏微分方程第六期研讨会,第二部分(里约热内卢,1999年),Mat.Contemp。,19(2000),第1-29页·Zbl 1139.82326号
[65] Y.Marzouk、T.Moselhy、M.Parno和A.Spantini,《通过测量传输进行采样:简介》,载于《不确定性量化手册》,斯普林格,查姆,2016年,第1-41页,https://doi.org/10.1007/978-3-319-11259-6_23-1。
[66] J.C.Mattingly、N.S.Pillai和A.M.Stuart,《高维随机行走Metropolis算法的扩散极限》,Ann.Appl。概率。,22(2012),第881-930页·Zbl 1254.60081号
[67] R.I.McLachlan、G.Quispel和N.Robidoux,使用离散梯度的几何积分,R.Soc.Lond。菲洛斯。事务处理。序列号。数学。物理学。工程科学。,357(1999),第1021-1045页·Zbl 0933.65143号
[68] A.Mielke、M.A.Peletier和M.Renger,Onsager互易关系对具有非线性迁移率的梯度流的推广,《非平衡热力学杂志》,41(2016),第141-149页,http://publications.imp.fu-berlin.de/1890/。
[69] N.Nuísken和S.Reich,《关于相互作用的朗之万扩散:梯度结构和集合卡尔曼采样器的注记》,Garbuno-Inigo、Hoffmann、Li和Stuart著,预印本,https://arxiv.org/abs/1908.10890, 2019.
[70] D.S.Oliver、A.C.Reynolds和N.Liu,《油藏描述和历史拟合的反演理论》,剑桥大学出版社,2008年。
[71] Y.Ollivier,在线自然梯度作为卡尔曼滤波器,预印本,https://arxiv.org/abs/1703.00209, 2017. ·Zbl 1447.93352号
[72] L.Onsager,不可逆过程中的相互关系:I,Phys。第37版(1931年),第405-426页,https://doi.org/10.103/PhysRev.37.405。 ·Zbl 0001.09501号
[73] L.Onsager,不可逆过程中的相互关系:II,Phys。第38版(1931年),第2265-2279页,https://doi.org/10.103/PhysRev.38.2265。 ·Zbl 0004.18303号
[74] H.Oöttinger,《超越平衡热力学》,John Wiley&Sons,Inc.,2005年,https://books.google.com/books?id=Prh9moT1WzMC。
[75] F.Otto,《耗散演化方程的几何:多孔介质方程》,《Comm.偏微分方程》,26(2001),第101-174页·Zbl 0984.35089号
[76] M.Ottobre和G.Pavliotis,广义Langevin方程的渐近分析,非线性,24(2011),第1629-1656页·兹比尔1221.82076
[77] L.Pareschi和G.Toscani,《交互多智能体系统:动力学方程和蒙特卡罗方法》,编号9780199655465,OUP目录,牛津大学出版社,2013年,https://ideas.repec.org/b/oxp/obooks/9780199655465.html。
[78] S.Pathiraja和S.Reich,计算贝叶斯推断的离散梯度,预印本,https://arxiv.org/abs/1903.00186, 2019; 计算。Dyn公司。,出现·Zbl 1437.62110号
[79] G.A.Pavliotis,随机过程与应用:扩散过程,福克-普朗克和朗之万方程,文本应用。数学。60,Springer-Verlag,纽约,2014年·Zbl 1318.60003号
[80] N.S.Pillai、A.M.Stuart和A.H.Thieíry,《希尔伯特空间中随机行走产生的噪音梯度流》,斯托赫。部分差异。埃克。分析。计算。,2(2014年),第196-232页·Zbl 1308.60005号
[81] S.Reich,《间歇数据同化的动力系统框架》,BIT,51(2011),第235-249页·Zbl 1216.93098号
[82] S.Reich,贝叶斯推断的非参数集合变换方法,SIAM J.Sci。计算。,35(2013),第A2013-A2024页,https://doi.org/10.1137/130907367。 ·兹比尔1362.65007
[83] S.Reich,《数据同化:薛定谔视角》,预印本,https://arxiv.org/abs/1807.08351, 2018.
[84] S.Reich和C.Cotter,概率预测和贝叶斯数据同化,剑桥大学出版社,2015年·Zbl 1314.62005年
[85] G.O.Roberts、A.Gelman和W.R.Gilks,《随机行走都市算法的弱收敛性和最优缩放》,Ann.Appl。概率。,7(1997),第110-120页·Zbl 0876.60015号
[86] G.O.Roberts和J.S.Rosenthal,Langevin扩散离散近似的最佳缩放,J.R.Stat.Soc.Ser。B统计方法。,60(1998年),第255-268页·兹比尔0913.60060
[87] G.O.Roberts和J.S.Rosenthal,各种Metropolis-Hastings算法的最佳缩放,统计。科学。,16(2001),第351-367页·Zbl 1127.65305号
[88] C.Schillings和A.M.Stuart,集合卡尔曼反演的收敛性分析:线性、噪声情况,应用。分析。,97(2018),第107-123页·Zbl 1448.65209号
[89] C.Schillings和A.M.Stuart,反问题的集合卡尔曼滤波器分析,SIAM J.Numer。分析。,55(2017),第1264-1290页,https://doi.org/10.1137/16M105959X。 ·Zbl 1366.65101号
[90] T.Schneider、S.Lan、A.Stuart和J.Teixeira,地球系统建模(2.0):从观测和目标高分辨率模拟中学习的模型蓝图,地球物理学。Res.Lett.公司。,44(2017),第12396-12417页。
[91] D.J.Spiegelhalter、N.G.Best、B.P.Carlin和A.Van Der Linde,模型复杂性和拟合的贝叶斯度量,J.R.Stat.Soc.Ser。B统计方法。,64(2002),第583-639页·Zbl 1067.62010年
[92] A.-S.S.Sznitman,《混沌传播的主题》,载于《圣面粉学院XIX-1989》,P.-L.Hennequin编辑,1991年,施普林格,柏林,1991年,第165-251页·Zbl 0732.60114号
[93] A.Taghvaei、J.de Wiljes、P.G.Mehta和S.Reich,卡尔曼滤波器及其对连续时间非线性滤波问题的现代扩展,J.Dyn。系统。测量。控制,140(2018),030904。
[94] A.Tong Lin、W.Li、S.Osher和G.Montuífar,GANS的Wasserstein Proximal,CAM报告18-53,加州大学洛杉矶分校数学系,2019年·Zbl 07495252号
[95] G.Toscani,意见形成的动力学模型,Commun。数学。科学。,4(2006),第481-496页,http://projecteuclid.org/euclid.cms/1175797553。 ·Zbl 1195.91128号
[96] C.维拉尼,《最佳交通:新旧》,格兰德伦数学。威斯。338,施普林格,柏林,2009年·兹比尔1156.53003
[97] J.Yang、G.O.Roberts和J.S.Rosenthal,《一般目标分布上大都会算法的最佳缩放》,预印本,https://arxiv.org/abs/1904.12157, 2019. ·Zbl 1455.60100号
[98] T.Yang、P.G.Mehta和S.P.Meyn,反馈粒子滤波器,IEEE Trans。自动化。对照,58(2013),第2465-2480页·Zbl 1369.93662号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。