奥菲尔·林登鲍姆;阿米尔·萨吉夫;加尔·米什内;罗恩·塔尔蒙 具有未知观测函数的动力系统的基于核的参数估计。 （英语） Zbl 1460.37075号 混乱 31，第4期，043118，16页（2021）。 小结：在实验中观察到一个低维动力系统作为高维信号，例如混沌摆系统的视频。假设我们知道一些未知参数的动力学模型，我们能通过只测量一次其时间演化来估计底层系统的参数吗？执行此估计的关键信息在于信号和模型之间的时间相关性。我们提出了一个基于内核的分数来比较这些依赖关系。我们的分数将线性模型的最大似然估计推广到未知特征空间中的一般非线性设置。我们通过最大化建议分数来估计系统的基本参数。我们使用两个混沌动力学系统——双摆和洛伦兹63模型证明了该方法的准确性和效率。©2021美国物理研究所 MSC公司： 37M10个 动力系统的时间序列分析 2005年3月37日 动力系统仿真 PDF格式BibTeX公司 XML格式引用 \textit{O.Lindenbaum}等人，Chaos 31，No.4，043118，16 p.（2021；Zbl 1460.37075） 全文： 内政部 arXiv公司 参考文献： [1] 阿布拉莫维奇，F。；Ritov，Y.，《统计理论：简明导论》（2013），CRC出版社·Zbl 1272.62001 [2] 阿科曼诺，T。；Szunyogh，I。；Pathak，J。；Wikner，A。；亨特，B.R。；Ott，E.，基于机器学习的全球大气预测模型，Geo。Res.Lett.公司。，47，e2020 GL087776（2020）·doi:10.1029/2020GL087776 [3] R.C.阿斯特。；Borchers，B。；Thurber，C.H.，参数估计和反问题（2018），Elsevier [4] 阿特金森，S。；Subber，W。；Wang，L。；Khan，G。；哈维，P。；加尼姆，R。 [5] 阿泽科特，O。；埃里克森，N.B。；林，V。；马奥尼，M.W。 [6] 巴赫，F.T。；Jordan，M.I.，《内核独立成分分析》，J.Mach。学习。决议，3，1-48（2002）·Zbl 1088.68689号 [7] 贝尔金，M。；Niyogi，P.，用于降维和数据表示的拉普拉斯特征映射，神经计算。，151373-1396（2003年）·Zbl 1085.68119号 ·doi:10.1162/089976603321780317 [8] Bertalan，T。；迪特里希，F。；梅齐克，I。；Kevrekidis，I.G.，《从数据中学习哈密顿系统》，《混沌》，29，121107（2020）·doi:10.1063/1.5128231 [9] Blaschko，M.B.和Gretton，A.，“使用核依赖度量进行分类推断”，Max-Planck-Insit技术报告第181号（2008年）。 [10] 邦加德，J。；Lipson，H.，《非线性动力系统的自动逆向工程》，Proc。国家。阿卡德。科学。美国，104，9943-9948（2007）·Zbl 1155.37044号 ·doi:10.1073/pnas.0609476104 [11] Boots，B.和Gordon，G.J.，“应用于非线性系统识别的两个流形问题”，《机器学习国际会议论文集》（Omnipress，2012）。 [12] Bramburger，J.J。；Kutz，J.N.，多尺度物理发现和非线性Floquet理论的Poincré映射，Physica D，408132479（2020）·Zbl 1493.37096号 ·doi:10.1016/j.physd.2020.132479 [13] Brouwers，B。；Biffi，A。；艾尔斯·A·M。；施瓦布，K。；科尔泰里尼，L。；罗梅罗·J·M。；Goldstein J，N.，载脂蛋白E基因型预测脑叶内出血的血肿扩大，《中风》，43，6，1490-1495（2012）·doi:10.1161/STROKEAHA.111.643262 [14] Brouwers，B。；Chang，Y。；法尔科内，J。；蔡，X。；艾尔斯，M。；Battey，T。；瓦什凯维奇，A。；麦克纳马拉，K。；瓦兰特，V。；Schwab，K.，预测原发性脑出血后血肿扩大，JAMA Neurol。，71, 158-164 (2014) ·doi:10.1001/jamaneurol.2013.5433 [15] Brunton，S.L。；Proctor，J.L。；Kutz，J.N.，通过非线性动力系统的稀疏识别从数据中发现控制方程，Proc。国家。阿卡德。科学。美国，1133932-3937（2016）·Zbl 1355.94013号 ·doi:10.1073/pnas.1517384113 [16] 伯德·R·H。；赫里巴尔，M.E。；Nocedal，J.，大型非线性规划的内点算法，SIAM J.Optim。，9, 877-900 (1999) ·Zbl 0957.65057号 ·doi:10.1137/S1052623497325107 [17] 伯德·R·H。；吉尔伯特，J.C。；Nocedal，J.，基于内点技术的非线性规划信赖域方法，数学。程序。，89, 149-185 (2000) ·Zbl 1033.90152号 ·doi:10.1007/PL00011391 [18] 冠军K。；卢施，B。；库茨，J.N。；Brunton，S.L.，数据驱动的坐标和控制方程发现，Proc。国家。阿卡德。科学。美国，116，22445-22451（2019）·Zbl 1433.68396号 ·doi:10.1073/pnas.1906995116 [19] Charu，A.、Hinneburg，A.和Keim，D.，“关于高维空间中距离度量的惊人行为”，载于数据库理论国际会议（Springer，Berlin，2001）·Zbl 1047.68038号 [20] 克利里，E。；加布诺·伊尼戈，A。；兰·S。；施耐德，T。；Stuart，A.M.，J.Comp.公司。物理。，424, 109716 (2021) ·Zbl 07508438号 ·doi:10.1016/j.jcp.2020.109716 [21] 科伊夫曼，R.R。；Lafon，S.，扩散图，应用。计算。危害。分析。，21, 5-30 (2006) ·Zbl 1095.68094号 ·doi:10.1016/j.acha.2006.04.006 [22] 科尔特斯，C。；Mehryar，M。；Afshin，R.，《基于中心对齐的内核学习算法》，J.Mach。学习。第13号、第1号、第795-828号决议（2019年）·Zbl 1283.68286号 [23] 克兰默，M。；Sanchez-Gonzalez，A。；巴塔利亚，P。；Xu，R。；克兰默，K。；Spergel博士。；何，S。 [24] Donoho，D.L。；Grimes，C.，Hessian特征映射：高维数据的局部线性嵌入技术，Proc。国家。阿卡德。科学。美国，1005591-5596（2003）·Zbl 1130.62337号 ·doi:10.1073/pnas.1031596100 [25] Dsilva，C.J。；塔尔蒙，R。；科伊夫曼，R.R。；Kevrekidis，I.G.，通过流形学习对非线性动力系统的简约表示：趋化性案例研究，应用。计算。哈蒙。分析。，第44页，759-773页（2018年）·Zbl 1390.68523号 ·doi:10.1016/j.acha.2015.06.008 [26] Dsilva，C.J。；塔尔蒙，R。；齿轮，C.W。；科伊夫曼，R.R。；Kevrekidis，I.G.，一类多尺度快-慢随机动力系统的数据驱动约简，SIAM J.Appl。动态。系统。，15, 1327-1351 (2016) ·Zbl 1353.37151号 ·数字对象标识代码：10.1137/151004896 [27] Dubois，P。；戈麦斯，T。；普朗卡特，L。；Perret，L.，Lorenz系统的数据驱动预测，Physica D，408132495（2020）·Zbl 1511.37098号 ·doi:10.1016/j.physd.2020.132495 [28] Dunford，N。；Schwartz，J.T.，线性算子，第一部分（1958年），威利：威利，纽约 [29] Fisher，M.，《高血压脑出血的病理学观察》，J.Neuropathol。实验神经学。，30, 536-550 (1971) ·doi:10.1097/00005072-197107000-0015 [30] Fukumizu，K。；巴赫，F.R。；Gretton，A.，核典型相关分析的统计一致性，J.Mach。学习。研究，8361-383（2007）·兹比尔1222.62063 [31] Fukumizu，K.、Gretton，A.、Sun，X.和Schölkopf，B.，“条件依赖的核心度量”，摘自《神经信息处理进展》（Curran Associates Inc.，2008），第489-496页。 [32] Gretton，A.、Bousquet，O.、Smola，A.和Schölkopf，B.，“使用Hilbert-Schmidt规范测量统计相关性”，算法学习理论国际会议（Springer，柏林，2005），第63-77页·Zbl 1168.62354号 [33] 格雷顿，A。；Herbrich，R。；Smola，A.J。；O.布斯克。；Schölkpf，B.，测量独立性的内核方法，J.Mach。学习。第6号决议，2075-2129（2005）·Zbl 1222.68208号 [34] Gretton，A.、Fukumizo，K.、Teo，C.H.、Song，K.、Schölkopf，B.和Smola，A.J.，“独立性的核统计测试”，《神经信息处理进展》（Curran Associates Inc.，2008），第585-592页。 [35] Hinneburg，A.、Charu，A.和Keim，D.，“高维空间中最近的邻居是什么？”，第26届超大数据库国际会议（Morgan Kaufmann Publishers Inc.，2000）。 [36] 霍夫曼，T。；Schölkopf，B。；Smola，A.J.，《机器学习中的内核方法》，Ann.Statist。，36, 1171-1220 (2008) ·Zbl 1151.30007号 ·doi:10.1214/00905360000000677 [37] Iserles，A.，剑桥大学微分方程数值分析第一课程（2009）·Zbl 1171.65060号 [38] Keller，R.T。；Du，Q.，SIAM J.数字。分析。，59, 429-455 (2020) ·Zbl 1466.65050号 ·doi:10.1137/19M130981X [39] 拉丰，S。；Keller，Y。；Coifman，R.，《通过扩散图进行数据融合和多用户数据匹配》，IEEE Trans。模式分析。机器。整数。，28, 11, 1784-1797 (2006) ·doi:10.1109/TPAMI.2006.223 [40] Landau，L.D。；Lifshitz，E.M.，理论物理、力学课程（1980），佩加蒙：牛津佩加蒙 [41] Le，L.、Hao，J.、Xie，Y.和Priestley，J.，“深层核：使用深层神经网络从数据中学习核函数”，载于第三届IEEE/ACM大数据计算、应用和技术国际会议论文集（计算机械协会（ACM），2016年）。 [42] Lederman，R.R。；Talmon，R.，使用交替扩散学习常见潜在变量的几何，应用。计算。危害。分析。，44, 509-536 (2018) ·Zbl 1394.94297号 ·doi:10.1016/j.acha.2015.09.002 [43] O.林登鲍姆。；Salhov，M。；Yeredor，A。；Averbuch，A.，流形学习和分类的高斯带宽选择，Data Min.Knowl。发现。，34, 1-37 (2020) ·Zbl 1455.68174号 ·文件编号：10.1007/s10618-020-00692-x [44] O.林登鲍姆。；Yeredor，A。；Salhov，M。；Averbuch，A.，多视图扩散图，Inf.Fusion，55127-149（2020）·doi:10.1016/j.inffus.2019.08.005 [45] 刘春华。；Tao，Y。；徐，D。；杜琪。；Billinge，S.J.L.，使用机器学习方法从原子对分布函数确定结构的空间群，Acta Cryst。，A75、633-643（2019）·doi:10.1107/S2053273319005606 [46] Lorenz，E.N.，《确定性非周期流》，J.Atmos。科学。，20, 130-141 (1963) ·Zbl 1417.37129号 ·doi:10.1175/1520-0469（1963）020<0130:DNF>2.0.CO；2 [47] Michaeli，T.、Wang，W.和Livescu，K.，“非参数典型相关分析”，载于国际机器学习会议（JMLR.org，2016），第1967-1976页。 [48] Nguyen，V.V。；Wood，E.F.，《线性可识别性概念的回顾与统一》，SIAM Rev.，24，34-51（1982）·数字对象标识代码：10.1137/1024002 [49] 诺西达尔，J。；Wright，S.J.，数值优化（2006），Springer:Springer，纽约·兹比尔1104.65059 [50] 奥瓦迪，H。；Yoo，G.R.，《内核流：从数据中学习内核到深渊》，J.Compute。物理。，389, 22-47 (2019) ·Zbl 1452.65028号 ·doi:10.1016/j.jcp.2019.03.040 [51] Pathak，J。；亨特，B。；Girvan，M。；卢，Z。；Ott，E.，根据数据对大型时空混沌系统进行无模型预测：储层计算方法，Phys。修订稿。，120, 024102 (2018) ·doi:10.1103/PhysRevLett.120.024102 [52] Saitoh，S.，《再生核理论及其应用》（1988），《朗曼科学与技术：朗曼科学技术》，哈洛出版社·Zbl 0652.30003号 [53] Salhov，M。；O.林登鲍姆。；艾森巴德，Y。；Silberschatz，A。；Shkolnisky，Y。；Averbuch，A.，数据分析多视图内核共识，应用。计算。哈蒙。分析。，49, 1, 208-228 (2020) ·Zbl 1434.68537号 ·doi:10.1016/j.acha.2019.01.001 [54] Schölkopf，B。；Smola，A。；Müller，K.-S.，作为核特征值问题的非线性分量分析，神经计算。，10, 1299-1319 (1998) ·doi:10.11162/08997698300017467 [55] 肖-泰勒，J。；Cristianini，N.，《模式分析的核心方法》（2004），剑桥大学 [56] Shinbrot，T。；格雷博吉，C。；Wisdom，J。；Yorke，J.A.，《双钟摆中的混沌》，美国物理杂志。，60, 491-499 (1992) ·数字对象标识代码：10.1119/1.16860 [57] Shulkind，G。；Horesh，L。；Avron，H.，错误指定动力学模型非参数校正的实验设计，SIAM/ASA J.不确定性。数量。，6, 880-906 (2018) ·Zbl 1403.62140号 ·doi:10.1137/17M1128435 [58] 辛格，A。；Erban，R。；凯夫雷基迪斯，I。；Coifman，R.R.，用各向异性扩散映射检测随机动力系统中的固有慢变量，Proc。国家。阿卡德。科学。美国，106，16090-16095（2009）·doi:10.1073/pnas.0905547106 [59] Smola，A.J。；Schölkopf，B.，《使用内核学习》（1998），GMD-Forschungszentrum Informationstechnik [60] Sober，B。；Levin，D.，建筑。约52433-478（2020年）·Zbl 1455.65042号 ·doi:10.1007/s00365-019-09489-8 [61] Stuart，A.M.，《逆向问题：贝叶斯观点》，《数字学报》，第19期，第451-559页（2010年）·Zbl 1242.65142号 ·doi:10.1017/S0962492910000061 [62] 塔尔蒙，R。；Coifman，R.R.，非线性建模和时间序列滤波的经验内禀几何，Proc。国家。阿卡德。科学。美国，110，12535-12540（2013）·doi:10.1073/pnas.1307298110 [63] Vestner，M.、Litman，R.、Rodola，A.、Bronstein，M.和Cremers，D.，“产品流形过滤器：通过产品空间中的核密度估计实现非刚性形状对应”，载于《计算机视觉和模式识别学报》（IEEE，2017）。 [64] Villaverde，A.F.，非线性生物系统的可观测性和结构可识别性，复杂性，2019，8497093·Zbl 1417.93085号 ·doi:10.1155/2019/8497093 [65] 华尔兹·R·A。；莫拉莱斯，J.L。；诺西达尔，J。；Orban，D.，结合线搜索和信赖域步骤的非线性优化内部算法，数学。程序。，107391-408（2006年）·Zbl 1134.90053号 ·doi:10.1007/s10107-004-0560-5 [66] Wang，D.、Shi，L.和Cao，J.，“近似k近邻图构造的快速算法”，载于IEEE第十三届国际数据挖掘研讨会（IEEE，2013），第349-356页。 [67] Wikner，A。；Pathak，J。；亨特，B.R。；Girvan，M。；阿科曼诺，T。；Szunyogh，I。；Pomerance，A。；Ott，E.，将机器学习与基于知识的建模相结合，用于大型复杂时空系统的可伸缩预测和次脊尺度闭合，混沌，30053111（2020）·数字对象标识代码：10.1063/5.000541 [68] M.O.威廉姆斯。；Kevrekidis，I.G。；Rowley，C.W.，《Koopman算子的数据驱动近似：扩展动态模式分解》，《非线性科学杂志》。，25, 1307-1346 (2015) ·Zbl 1329.65310号 ·doi:10.1007/s00332-015-9258-5 [69] Yair，O。；塔尔蒙，R。；科伊夫曼，R.R。；Kevrekidis，I.G.，《通过从数据中学习知情观测几何学重建正常形态》，Proc。国家。阿卡德。科学。美国，114，E7865-E7874（2017）·兹比尔1407.62306 ·doi:10.1073/pnas.1620045114 [70] Yu，J。；Hesthaven，J.S.，使用人工神经网络的流场重建方法，AIAA J.，57，482-498（2019）·doi:10.2514/1.J057108 [71] Zelnik-Manor，L.和Perona，P.，“自校正谱聚类”，《神经信息处理系统进展》（麻省理工学院出版社，2004年），第1601-1608页。 [72] Yair，O。；迪特里希，F。；Mulayoff，R。；塔尔蒙，R。；凯夫雷基迪斯，I.G。 [73] Holiday，A。；Kooshkbaghi，M。；Bello-Rivas，J.M。；齿轮，C.W。；Zagaris，A。；Kevrekidis，I.G.，参数简化的流形学习，J.Compute。物理。，392, 419-431 (2019) ·Zbl 1452.37090号 ·doi:10.1016/j.jp.2019.04.015 [74] 没有必要在所有的（mathbb{R}^d）上定义\（G），而只需在\（operatorname{omega}}\{x（t；\omega）|t\geq0\}\）上定义。此外，在我们的分析和示例中，通常\（mathcal{Z}\）是模型的空间\（mathbb{R}^d）或观测空间\（mathbb{R}^d）。 [75] 内核（k^x）和（k^y）通常分别不是原始空间（mathbb{R}^d）和（mathbb{R}^d）中的内积，因为它们在任何一个组件中都不是线性的。 [76] 通常情况下，对于\（\operatorname{\omega}\）之外的\（\omega\）值，底层ODE无法生成适定解。例如，对于（ω<0），谐振子（ωx=0）产生指数增长的不适定解。 [77] 在我们的仿真中，我们使用了MATLAB实现的IPA方法。 [78] （G）的这种精确形式并不特别重要，只是它确实是非线性的，并且包含了所有（x）的坐标。对其他观测函数进行了测试，得出了与我们的算法类似的结果（结果未显示）。 [79] 我们观察到，对于（beta\neq 8/3），许多不同的参数集产生了几乎无法区分的轨迹，从而阻碍了可观测性（见第四C节的讨论）。 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。