×

通过重加权\(\ell_1\)正则化最小二乘法对非线性动力系统进行稀疏辨识。 (英语) Zbl 1506.37104号

摘要:本文提出了一种迭代稀疏正则回归方法,用于从噪声状态测量中恢复非线性动力系统的控制方程。该方法受非线性动力学稀疏辨识(SINDy)方法的启发S.L.布鲁顿等【美国国家科学院院刊113,第15期,3932–3937(2016;Zbl 1355.94013号)],这依赖于两个主要假设:状态变量已知先验的并且控制方程有助于在状态变量的(非线性)基础上进行稀疏的线性展开。本工作的目的是提高SINDy在存在状态测量噪声的情况下的精度和鲁棒性。为此,开发了一个重加权(ell_1)正则化最小二乘解算器,其中正则化参数从Pareto曲线的角点选择。使用加权(ell_1)范数进行正则化的想法是为了更好地促进控制方程恢复中的稀疏性,进而减轻状态变量中噪声的影响。我们还提出了一种从状态测量中恢复单个物理约束的方法。通过几个著名的非线性动力学系统的例子,我们实证地证明了重加权正则化最小二乘策略对于状态测量噪声的准确性和鲁棒性,从而说明了其在广泛的潜在应用中的可行性。

MSC公司:

37M10个 动力系统的时间序列分析
62J07型 岭回归;收缩估计器(拉索)
65升09 常微分方程反问题的数值解法
70万 粒子和系统力学中的随机振动
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 法索伊斯,S。;Rivera,D.,系统识别的应用,IEEE控制系统。Mag.,27,24-26(2007)
[2] L.Ljung,系统识别,威利电子电气工程百科全书·Zbl 0567.93074号
[3] Ljung,L.,《系统识别的观点》,年。版本控制,34,1,1-12(2010)
[4] M.A.Balikhin、R.J.Boynton、S.N.Walker、J.E.Borovsky、S.A.Billings、H.-L.Wei,《使用narmax方法模拟地球静止轨道上高能电子通量的演化》,《地球物理研究快报》38(18)。
[5] 博因顿,R。;巴里钦,M。;比林斯,S。;里夫斯,G。;加努什基纳,N。;Gedalin,M。;俄亥俄州Amariutei。;Borovsky,J。;Walker,S.,《利用narmax方法分析地球同步轨道上的电子通量》,J.Geophys。研究:太空物理学。,1184150-1513(2013年)
[6] R.Mahnken,本构方程材料参数的识别,见:计算力学百科全书,第二版,2017年,第1-21页。
[7] S.L.Brunton,B.R.Noack,《闭环湍流控制:进展与挑战》,应用。机械。修订版67(5)。
[8] 莫拉里,M。;Lee,J.H.,模型预测控制:过去、现在和未来,计算。化学。工程师,23,4-5667-682(1999)
[9] Leontaritis,I。;Billings,S.A.,非线性系统的输入-输出参数模型,第i部分:确定性非线性系统,国际。《控制杂志》,41,2,303-328(1985)·Zbl 0569.93011号
[10] 施密特,M。;Lipson,H.,《从实验数据中提取自由形式自然法则》,《科学》,324592381-85(2009)
[11] 邦加德,J。;Lipson,H.,《非线性动力系统的自动逆向工程》,Proc。国家。阿卡德。科学。,104, 24, 9943-9948 (2007) ·Zbl 1155.37044号
[12] Wang,W.X。;Yang,R。;赖,Y.-C。;科瓦尼斯,V。;Grebogi,C.,通过压缩感知预测非线性动力系统中的灾难,物理学。修订稿。,第106、15条,第154101页(2011年)
[13] Brunton,S.L。;Proctor,J.L。;Kutz,J.N.,通过非线性动力系统的稀疏识别从数据中发现控制方程,Proc。国家。阿卡德。科学。,113, 15, 3932-3937 (2016) ·Zbl 1355.94013号
[14] B.Duignan,Occam剃须刀,(2018年)。
[15] Tibshirani,R.,《通过套索进行回归收缩和选择》,J.R.Stat.Soc.Ser。B统计方法。,58, 1, 267-288 (1996) ·Zbl 0850.62538号
[16] 埃夫隆,B。;哈斯蒂,T。;Johnstone,我。;Tibshirani,R.,最小角回归,Ann.Statist。,32, 2, 407-499 (2004) ·Zbl 1091.62054号
[17] 陈,S。;多诺霍,D。;桑德斯,M.,《基追踪的原子分解》,SIAM Rev.,43,1,129-159(2001)·Zbl 0979.94010号
[18] 张,S。;Lin,G.,《利用误差棒对支配物理定律进行稳健的数据驱动发现》,Proc。R.Soc.A,474,2217,第20180305条,pp.(2018)·兹比尔1407.62267
[19] K.Kaheman,J.N.Kutz,S.L.Brunton,Sindy-pi:非线性动力学并行隐式稀疏辨识的鲁棒算法,arXiv预印本arXiv:2004.02322。
[20] Tran,G。;Ward,R.,从高度损坏的数据中精确恢复混沌系统,多尺度模型。模拟。,15, 3, 1108-1129 (2017)
[21] Zou,H.,《自适应套索及其预言属性》,J.Amer。统计师。协会,1014761418-1429(2006)·Zbl 1171.62326号
[22] 坎迪斯,E.J。;Wakin,M.B。;Boyd,S.P.,通过重加权最小化增强稀疏性,J.Fourier Ana。申请。,14, 5, 877-905 (2008) ·Zbl 1176.94014号
[23] 杨,X。;Karniadakis,G.E.,随机椭圆微分方程的重加权极小化方法,J.Compute。物理。,248, 87-108 (2013) ·Zbl 1349.60113号
[24] 彭杰。;J.汉普顿。;Doostan,A.,稀疏多项式混沌展开的加权(ell_1)最小化方法,J.Compute。物理。,267, 92-111 (2014) ·Zbl 1349.65198号
[25] Adcock,B.,从逐点数据进行无限维最小化和函数近似,Constr。约45,3345-390(2017年)·Zbl 1367.41012号
[26] Cheng,H。;Gimbutas,Z。;Martinsson,P.G。;Rokhlin,V.,《关于低秩矩阵的压缩》,SIAM J.Sci。计算。,26, 4, 1389-1404 (2005) ·Zbl 1083.65042号
[27] 谢弗,H。;Tran,G。;Ward,R.,《从有限数据中提取稀疏高维动力学》,SIAM J.Appl。数学。,78, 6, 3279-3295 (2018) ·Zbl 1405.62127号
[28] Wu,K。;Xiu,D.,《使用数据逼近控制方程的数值方面》,J.Compute。物理。,384200-221(2019)·Zbl 1451.65008号
[29] 苗,H。;夏,X。;Perelson,A.S。;Wu,H.,《非线性ODE模型的可识别性及其在病毒动力学中的应用》,SIAM Rev.,53,1,3-39(2011)·Zbl 1215.34015号
[30] Kim,S。;Koh,K。;Lustig,M。;博伊德,S。;Gorinevsky,D.,《大规模正则化最小二乘的内点方法》,IEEE J.Sel。顶部。签署程序。,1, 4, 606-617 (2007)
[31] 新墨西哥州曼根。;库茨,J.N。;布伦顿,S.L。;Proctor,J.L.,《通过稀疏回归和信息准则选择动力系统模型》,Proc。R.Soc.A,473,2204,第20170009条,pp.(2017)·Zbl 1404.65308号
[32] Rudy,S.H。;Brunton,S.L。;普罗克特,J.L。;Kutz,J.N.,偏微分方程的数据驱动发现,科学。高级,3,4,文章e1602614 pp.(2017)
[33] 奎德,M。;阿贝尔,M。;内森·库茨,J。;Brunton,S.L.,用于快速模型恢复的非线性动力学稀疏识别,Chaos,28,6,Article 063116 pp.(2018)
[34] 布鲁克斯坦,A。;多诺霍,D。;Elad,M.,《从方程组的稀疏解到信号和图像的稀疏建模》,SIAM Rev.,51,1,34-81(2009)·Zbl 1178.68619号
[35] Doostan,A。;Owhadi,H.,具有随机输入的PDE的非自适应稀疏近似,J.Compute。物理。,230, 3015-3034 (2011) ·Zbl 1218.65008号
[36] J.汉普顿。;Doostan,A.,多项式混沌展开的压缩采样:收敛分析和采样策略,J.Compute。物理。,280, 363-386 (2015) ·Zbl 1349.94110号
[37] Candès,E.J.,《受限等距特性及其对压缩传感的影响》,C.R.Math。,346, 9, 589-592 (2008) ·Zbl 1153.94002号
[38] Rauhut,H。;Ward,R.,《通过(ell_1)最小化的稀疏勒让德展开》,《J近似理论》,164,5,517-533(2012)·Zbl 1239.65018号
[39] 彭杰。;J.汉普顿。;Doostan,A.,关于通过梯度增强\(\ell_1\)-最小化的多项式混沌展开,J.Comput。物理。,310, 440-458 (2016) ·Zbl 1349.65538号
[40] 科恩,A。;Davenport,医学硕士。;Leviatan,D.,《关于最小二乘近似的稳定性和准确性》,Found。计算。数学。,13, 5, 819-834 (2013) ·Zbl 1276.93086号
[41] J.Hampton,A.Doostan,相干激励采样和最小二乘多项式混沌回归收敛性分析,计算。方法应用。机械。工程(0)·兹比尔1426.62174
[42] Hadigol,M。;Doostan,A.,《最小二乘多项式混沌展开:抽样策略综述》,计算。方法应用。机械。工程,332382-407(2018)·Zbl 1440.65007号
[43] Hansen,P.,利用l曲线分析离散不定问题,SIAM Rev.,34,4,561-580(1992)·兹比尔0770.65026
[44] 范登伯格,E。;Friedlander,M.,《探索基础追踪解决方案的帕累托边界》,SIAM J.Sci。计算。,31, 2, 890-912 (2009) ·Zbl 1193.49033号
[45] Hansen,C。;Jensen,T.K。;Rodriguez,G.,离散l曲线准则的自适应修剪算法,J.Compute。申请。数学。,198, 2, 483-492 (2007) ·Zbl 1101.65044号
[46] Cultrera,A。;Callegaro,L.,在不适定逆问题的正则化中找到L曲线角点的简单算法,IOP SciNotes,1,2,025004(2020)
[47] Tehrani,J.N。;麦克尤恩,A。;Jin,C。;Van Schaik,A.,使用L1曲线(帕累托前沿曲线)在电阻抗断层成像中的L1正则化方法,应用。数学。型号。,36, 3, 1095-1105 (2012) ·Zbl 1243.78041号
[48] Cleveland,W.S.,《稳健局部加权回归与平滑散点图》,J.Amer。统计师。协会,74,368,829-836(1979)·Zbl 0423.62029号
[49] Cullum,J.,《数值微分与正则化》,SIAM J.Numer。分析。,8, 2, 254-265 (1971) ·Zbl 0224.65005号
[50] Chartrand,R.,噪声、非光滑数据的数值微分,ISRN应用。数学。(2011年)·Zbl 1242.65045号
[51] Knowles,I。;Renka,R.J.,噪声数据的数值微分方法,电子。《微分方程》,21,235-246(2014)·Zbl 1287.65016号
[52] G.Golub,C.Van Loan,矩阵计算,马里兰州巴尔的摩·Zbl 0865.65009号
[53] Kariya,T。;Kurata,H.,广义最小二乘法(2004),John Wiley&Sons·兹比尔1057.62049
[54] 多诺霍,D。;德罗里,I。;斯托登,V。;Tsaig,Y.,Sparselab:寻求线性方程组的稀疏解(2019),URLhttp://sparselab.stanford.edu
[55] D.L.Donoho,V.C.Stodden,Y.Tsang,关于sparselab。
[56] Lorenz,E.N.,《确定性非周期流》,J.Atmos。科学。,20, 2, 130-141 (1963) ·Zbl 1417.37129号
[57] 范德波尔,B.,《自由和受迫三极管振动振幅理论》,《无线电评论》,第1期,第701-710页,第754-762页(1920年)
[58] Morozov,V.A.,《关于用正则化方法求解函数方程》(Doklady Akademii Nauk,Vol.167(1966),俄罗斯科学院),510-512·Zbl 0187.12203号
[59] Shannon,C.E.,《噪声中的通信》,Proc。爱尔兰共和国,37,1,10-21(1949)
[60] Spall,J.C.,《随机搜索和优化导论:估计、模拟和控制》(2005),John Wiley&Sons
[61] Hansen,P.,《离散反问题》(2010),工业和应用数学学会·Zbl 1197.65054号
[62] Regiáska,T.,离散不定问题中的正则化参数,SIAM J.Sci。计算。,17, 3, 740-749 (1996) ·Zbl 0865.65023号
[63] P.C.Hansen,l曲线及其在反问题数值处理中的应用。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。