×

动力系统低维逼近的基于核嵌入的变分方法。 (英语) Zbl 1482.37087号

摘要:Perron-Frobenius和Koopman算子等传递算子在复杂动力学系统的建模和分析中起着关键作用,通过将原始状态变量转换为特征空间,可以实现非线性动力学的线性表示。然而,从数据中识别最优的低维特征映射仍然具有挑战性。马尔可夫过程的变分方法(VAMP)基于建模误差的变分估计,为特征映射的评估和优化提供了一个全面的框架,但它仍然存在对传递算子的错误假设,因此有时无法捕捉系统动力学的本质结构。在本文中,我们开发了一种强大的VAMP替代方案,称为基于内核嵌入的动态系统变分方法(KVAD)。通过在内核嵌入空间中使用函数的距离度量,KVAD有效地克服了VAMP的理论和实践局限性。此外,我们开发了一种数据驱动的KVAD算法,用于在给定基函数所跨越的子空间内寻找理想的特征映射,数值实验表明,与VAMP相比,该算法可以显著提高建模精度。

MSC公司:

37M10个 动力系统的时间序列分析
37升65 无穷维耗散动力系统的特殊逼近方法(非线性Galerkin等)
47号30 算子理论在概率论和统计学中的应用
65K10码 数值优化与变分技术

软件:

VAMP网络
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Z.Bai,D.Lu和B.Vandereycken,鲁棒瑞利商最小化和非线性特征值问题,SIAM J.Sci。计算。40(2018),第5期,A3495-A3522·兹比尔1416.65148
[2] S.L.Brunton、B.W.Brunton,J.L.Proctor和J.N.Kutz,用于控制的非线性动力系统的Koopman不变子空间和有限线性表示,PloS one 11(2016),第2期,文章ID e0150171·Zbl 1350.49037号
[3] 陈锦光,屠志浩和罗利,《动态模式分解变量:边界条件》,库普曼和傅里叶分析,《非线性科学杂志》。22(2012),第6期,887-915·兹比尔1259.35009
[4] W.Chen、H.Sidky和A.L.Ferguson,使用无状态可逆vampnets非线性发现慢分子模式,J.Chem。物理学。150(2019),第21号,文章编号214114。
[5] J.D.Chodera和F.Noé,生物分子构象动力学的马尔可夫状态模型,当前。操作。结构。《生物学》25(2014),135-144。
[6] R.R.Coifman和S.Lafon,扩散图,应用。计算。哈蒙。分析。21(2006),第1期,第5-30页·Zbl 1095.68094号
[7] N.D.Conrad、M.Weber和C.Schütte,发现不可逆马尔可夫过程的主导结构,多尺度模型。模拟。14(2016),第4期,1319-1340·Zbl 1352.65025号
[8] P.Deufhard和M.Weber,构象动力学中的鲁棒Perron聚类分析,线性代数应用。398 (2005), 161-184. ·Zbl 1070.15019号
[9] P.Drineas和M.W.Mahoney,《关于逼近Gram矩阵以改进基于核的学习的NyströM方法》,J.Mach。学习。第6号决议(2005年),2153-2175·Zbl 1222.68186号
[10] K.Fackeldey、P.Koltai、P.Névir、H.Rust、A.Schild和M.Weber,《从亚稳态到相干集——时间离散化方案》,《混沌》29(2019),第1期,文章ID 012101。
[11] K.Fukumizu,L.Song和A.Gretton,《核贝叶斯规则:具有正定核的贝叶斯推理》,J.Mach。学习。第14号决议(2013年),3753-3783·Zbl 1318.62131号
[12] D.Goswami、E.Thackray和D.A.Paley,约束Ulam动态模式分解:确定性和随机系统Perron-Frobenius算子的近似,IEEE控制系统。莱特。2(2018),第4期,809-814。
[13] J.Han,L.Zhang和W.E,使用深度神经网络求解多电子薛定谔方程,J.Comput。物理学。399(2019),文章ID 108929·Zbl 1457.81010号
[14] Y.Hashimoto、I.Ishikawa、M.Ikeda、F.Komura和Y.Kawahara,Kernel表示von Neumann-代数值测度的嵌入,预印本(2020),https://arxiv.org/abs/2007.14698。
[15] Y.Hashimoto,I.Ishikawa,M.Ikeda,Y.Matsuo和Y.Kawahara,带随机噪声非线性动力系统的Krylov子空间方法,J.Mach。学习。第21号决议(2020年),第172号文件·Zbl 1527.37095号
[16] T.Hastie、R.Tibshirani和J.Friedman,《统计学习的要素》。第1卷,Springer Ser。统计人员。,施普林格,纽约,2001年·Zbl 0973.62007号
[17] J.Hermann,Z.Schätzle和F.Noé,电子薛定谔方程的深度神经网络解,自然化学。12(2020年),第10期,891-897。
[18] I.T.Jolliffe和J.Cadima,《主成分分析:综述和最新发展》,Philos。事务处理。罗伊。Soc.A 374(2016),编号2065,10.1098/rsta.2015.0202·Zbl 1353.62067号 ·doi:10.1098/rsta-2015.0202
[19] V.R.Joseph和L.Kang,基于回归的反向距离加权及其在计算机实验中的应用,《技术计量学》53(2011),第3期,254-265。
[20] O.Junge和P.Koltai,使用稀疏Haar张量基离散Frobenius-Perron算子:稀疏Ulam方法,SIAM J.Numer。分析。47(2009),第5期,3464-3485·Zbl 1210.37061号
[21] Y.Kawahara,用于koopman光谱分析的带再生核的动态模式分解,神经信息处理系统进展,ACM,纽约(2016),911-919。
[22] S.Klus、P.Koltai和C.Schütte,关于Perron-Frobenius和Koopman算子的数值逼近,J.Compute。动态。3(2016),第1期,51-79·Zbl 1353.37154号
[23] S.Klus、F.Nüske和B.Hamzi,基于核的Koopman生成器和Schrödinger算子近似,《熵》22(2020),第7期,第722号论文。
[24] S.Klus,F.Nuüske,P.Koltai,H.Wu,I.Kevrekidis,C.Schütte和F.Noé,数据驱动模型简化和传递算子近似,J.非线性科学。28(2018),第3期,985-1010·Zbl 1396.37083号
[25] S.Klus、F.Nüske、S.Peitz、J.-H.Niemann、C.Clementi和C.Schütte,《Koopman生成器的数据驱动近似:模型简化、系统识别和控制》,物理。D 406(2020),文章ID 132416·兹比尔1485.93097
[26] S.Klus,I.Schuster和K.Muandet,再生核Hilbert空间中转移算子的特征合成,J.非线性科学。30(2020),第1期,283-315·Zbl 1437.37104号
[27] A.Konrad、B.Y.Zhao、A.D.Joseph和R.Ludwig,基于Markov的无线网络信道模型算法,无线网络。9(2003),第3期,189-199。
[28] M.Korda和I.Mezić,关于扩展动态模式分解到Koopman算子的收敛性,J.非线性科学。28(2018),第2期,687-710·Zbl 1457.37103号
[29] J.N.Kutz、S.L.Brunton、B.W.Brunton和J.L.Proctor,《动态模式分解:复杂系统的数据驱动建模》,工业与应用数学学会,费城,2016年·Zbl 1365.65009号
[30] S.Lafon、Y.Keller和R.R.Coifman,通过扩散图进行数据融合和多用户数据匹配,IEEE Trans。模式分析。机器。智力。28(2006),第11期,1784-1797。
[31] 赖P.L.和Fyfe,核与非线性典型相关分析,国际神经系统杂志。10(2000),第05期,第365-377页。
[32] Q.Li,F.Dietrich,E.M.Boltt和I.G.Kevrekidis,带字典学习的扩展动态模式分解:Koopman算子的数据驱动自适应谱分解,Chaos 27(2017),第10期,文章ID 103111·Zbl 06876982号
[33] O.Lindenbaum,M.Salhov,A.Yeredor和A.Averbuch,流形学习和分类的高斯带宽选择,Data Min.Knowl。发现。34(2020),第6期,1676-1712·Zbl 1455.68174号
[34] O.Lindenbaum、A.Yeredor和A.Averbuch,基于核分类的带宽选择,2016年IEEE电气工程科学国际会议(ICSEE),IEEE出版社,Piscataway(2016),1-5。
[35] B.Lusch、J.N.Kutz和S.L.Brunton,非线性动力学的普遍线性嵌入的深度学习,自然通讯。9(2018),第1期,第1-10页。
[36] A.Mardt,L.Pasquali,F.Noé和H.Wu,带物理约束的深度学习Markov和Koopman模型,Proc。机器。学习。研究(PMLR)107(2020),451-475。
[37] A.Mardt、L.Pasquali、H.Wu和F.Noé,分子动力学深度学习Vampnets,自然公社。9(2018),第1期,第1-11页。
[38] R.T.McGibbon和V.S.Pande,分子动力学中慢动力学模式的变分交叉验证,化学杂志。物理学。142(2015),第12号,文章ID 124105。
[39] I.Mezić,通过Koopman算子的光谱特性分析流体流动,Annu。流体力学版次。45 (2013), 357-378. ·Zbl 1359.76271号
[40] K.Mills、M.Spanner和I.Tamblyn,《深度学习和薛定谔方程》,《物理学》。A 96版(2017年),第4号,文章编号042113。
[41] H.Q.Minh、P.Niyogi和Y.Yao,Mercer定理、特征映射和平滑,学习理论,计算机课堂笔记。科学。4005,柏林施普林格(2006),154-168·Zbl 1143.68554号
[42] L.Molgedey和H.G.Schuster,使用延时相关性分离独立信号的混合物,物理。修订稿。72 (1994), 3634-3637.
[43] J.R.Moreno、G.Carleo和A.Georges,深度学习密度泛函理论的Hohenberg-Kohn映射,物理学。修订稿。125(2020),第7号,文章编号076402。
[44] R.Nagai、R.Akashi和O.Sugino,通过机器学习分子的隐藏信息完成密度泛函理论,npj Compute。材料6(2020),编号1,1-8。
[45] J.Nelson、R.Tiwari和S.Sanvito,哈伯德模型的机器学习密度泛函理论,物理学。B 99版(2019年),第7号,文章编号075132。
[46] F.Noé和F.Nüske,随机动力系统慢过程建模的变分方法,多尺度模型。模拟。11(2013),第2期,635-655·兹比尔1306.65013
[47] F.Nuske、B.G.Keller、G.Perezhernandez、A.S.J.S.Mey和F.Noe,分子动力学的变分方法,化学杂志。理论计算。10(2014),第4期,1739-1752。
[48] F.Nu ske,R.Schneider,F.Vitalini和F.Noé,用于近似大分子系统罕见事件动力学的变分张量方法,化学杂志。物理学。144(2016),第5期,149-153。
[49] G.Perezhernandez、F.Paul、T.Giorgino、G.De Fabritiis和F.Noe,Markov模型构建中慢分子序参数的识别,化学杂志。物理学。139(2013),文章ID 015102。
[50] W.H.Press,S.A.Teukolsky,W.T.Vetterling和B.P.Flannery,《数字配方:科学计算的艺术》,剑桥大学,剑桥,2007年·Zbl 1132.65001号
[51] J.-H.Prinz、H.Wu、M.Sarich、B.Keller、M.Senne、M.Held、J.D.Chodera、C.Schütte和F.Noé,《分子动力学的马尔可夫模型:生成和验证》,J.Chem。物理学。134(2011),第17号,文章编号174105。
[52] A.Rahimi和B.Recht,《大规模内核机器的随机特征》,《神经信息处理系统进展》,美国计算机学会,纽约(2008),1177-1184。
[53] S.Röblitz和M.Weber,PCCA+模糊谱聚类:马尔可夫状态模型和数据分类的应用,高级数据分析。分类。7(2013),第2期,147-179·Zbl 1273.62145号
[54] P.J.Schmid,数值和实验数据的动态模式分解,J.流体力学。656 (2010), 5-28. ·Zbl 1197.76091号
[55] C.Schütte、A.Fischer、W.Huisinga和P.Deufhard,基于混合蒙特卡罗的构象动力学直接方法,J.Compute。物理学。151 (1999), 146-168. ·Zbl 0933.65145号
[56] C.R.Schwantes和V.S.Pande,马尔可夫状态模型构建的改进揭示了ntl9折叠中的许多非本征相互作用,J.Chem。理论计算。9(2013),第4期,2000-2009年。
[57] C.R.Schwantes和V.S.Pande,用tica和核技巧模拟分子动力学,J.Chem。理论计算。11(2015),第2期,600-608。
[58] A.S.Sharma、I.Mezi和B.J.Mckeon,koopman模式分解、预解模式分解和Navier-Stokes方程不变解之间的对应,物理学。第1版流体(2016),文章编号03240。
[59] A.Singer、R.Erban、I.G.Kevrekidis和R.R.Coifman,通过各向异性扩散映射检测随机动力系统中的固有慢变量,Proc。国家。阿卡德。科学。106(2009),第38期,16090-16095。
[60] A.Smola、A.Gretton、L.Song和B.Schölkopf,用于分布的希尔伯特空间嵌入,算法学习理论国际会议,柏林斯普林格(2007),13-31·Zbl 1142.68407号
[61] L.Song、K.Fukumizu和A.Gretton,条件分布的内核嵌入:图形模型中非参数推理的统一内核框架,IEEE信号处理。Mag.30(2013),第4期,98-111。
[62] L.Song,J.Huang,A.Smola和K.Fukumizu,条件分布的希尔伯特空间嵌入及其在动力系统中的应用,第26届机器学习国际年会论文集,ACM,纽约(2009),961-968。
[63] B.K.Sriperumbudur,K.Fukumizu和G.R.G.Lanckriet,普遍性,特征核和RKHS嵌入测度,J.Mach。学习。第12号决议(2011年),2389-2410·Zbl 1280.68198号
[64] A.Szabo和N.S.Ostlund,《现代量子化学:高级电子结构理论导论》,信使公司,北切姆斯福德,2012年。
[65] J.H.Tu、C.W.Rowley、D.M.Luchtenburg、S.L.Brunton和J.N.Kutz,《关于动态模式分解:理论和应用》,J.Compute。动态。1(2014),第2期,391-421·Zbl 1346.37064号
[66] M.O.Williams、I.G.Kevrekidis和C.W.Rowley,《Koopman算子的数据驱动近似:扩展动态模式分解》,《非线性科学杂志》。25(2015),第6期,1307-1346·Zbl 1329.65310号
[67] M.O.Williams、C.W.Rowley和I.G.Kevrekidis,基于核的数据驱动Koopman光谱分析方法,J.Compute。动态。2(2015),第2期,247-265·Zbl 1366.37144号
[68] H.Wu、A.Mardt、L.Pasquali和F.Noe,深度生成马尔可夫状态模型,神经信息处理系统进展,ACM。纽约(2018),3975-3984。
[69] H.Wu和F.Noé,分子动力学的高斯马尔可夫转移模型,化学杂志。物理学。142(2015),第8号,文章编号084104。
[70] H.Wu和F.Noé,从时间序列数据学习马尔可夫过程的变分方法,J.非线性科学。30(2020),第1期,23-66·Zbl 1437.37107号
[71] H.Wu、F.Núske、F.Paul、S.Klus、P.Koltai和F.Noé,《变分库普曼模型:来自短期平衡模拟的慢集体变量和分子动力学》,J.Chem。物理学。146(2017),第15号,文章ID 154104。
[72] H.Wu,F.Paul,C.Wehmeyer和F.Noé,分子热力学和动力学的多系综马尔可夫模型,Proc。国家。阿卡德。科学。113(2016),第23期,E3221-E3230。
[73] M.Yue、J.J.Han和K.S.Trivedi,无线通信网络的综合性能和可用性分析,IEEE Trans。车辆技术。50(2001),第5期,1216-1223。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。