×

正则化LTI系统辨识的核设计。 (英语) Zbl 1387.93064号

摘要:基于核的正则化方法有两个关键问题:一是如何设计合适的核,将待识别LTI系统的先验知识嵌入核中;另一个是如何调整核,使得到的正则化脉冲响应估计器能够实现良好的偏差-方差折衷。在本文中,我们主要关注内核设计问题。根据先验知识的类型,我们提出了两种设计内核的方法:一种是从机器学习的角度,另一种是基于系统理论的角度。我们还提供了这两种方法的分析结果,这不仅增强了我们对现有核的理解,而且还指导了新核的设计。

MSC公司:

93B30型 系统标识
93二氧化碳 控制理论中的线性系统
68T05型 人工智能中的学习和自适应系统
93亿B51 设计技术(稳健设计、计算机辅助设计等)
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Nachman Aronszajn,《再生核理论》,美国数学学会学报,337-404,(1950)·Zbl 0037.20701号
[2] 斯特罗姆,K.J.,《随机控制理论导论》(1970),纽约和伦敦学术出版社·Zbl 0226.93027号
[3] Carli,F.P。;Chen,T。;Ljung,L.,系统识别的最大熵核,IEEE自动控制学报,62,3,1471-1477,(2017)·Zbl 1366.93669号
[4] 克劳迪奥·卡梅利;埃内斯托·德·维托;Toigo,Alessandro,可积函数的向量值再生核Hilbert空间和Mercer定理,分析与应用,4,04,377-408,(2006)·Zbl 1116.46019号
[5] Chen,C.,线性系统理论与设计,(1999),牛津大学出版社,纽约
[6] Chen,Tinshi,连续时间DC核-稳定的广义一阶样条核,IEEE自动控制汇刊,(2017),提交出版,可从http://arxiv.org/abs/1710.03932 ·兹比尔1423.93091
[7] Chen,T。;安徒生,M.S。;Ljung,L。;Chiuso,A。;Pillonetto,G.,使用顺序凸优化技术通过基于稀疏多核的正则化进行系统识别,IEEE自动控制汇刊,11,2933-2945,(2014)·Zbl 1360.93720号
[8] 陈天石;阿德西里,托希德;Francesca P.Carli。;亚历山德罗·齐乌索;Lennart Ljung;Pillonetto,Gianluigi,离散时间一阶稳定样条核的最大熵性质,Automatica,66,34-38,(2016)·Zbl 1335.93131号
[9] Chen,T。;Ljung,L.,系统辨识中正则最小二乘问题中参数调整算法的实现,Automatica,49,2213-2220,(2013)·Zbl 1364.93825号
[10] Chen,Tinshi,&Ljung,Lennart(2014)。用于正则化系统辨识的构造性状态空间模型诱导核。第19届IFAC世界大会; Chen,Tinshi,&Ljung,Lennart(2014)。用于正则化系统辨识的构造性状态空间模型诱导核。第19届IFAC世界大会
[11] Chen,T.和Ljung,L.(2015a)。正则化系统辨识的核结构(i):机器学习的观点。国际会计师联合会系统识别专题讨论会会议记录; Chen,T.和Ljung,L.(2015a)。正则化系统辨识的核结构(i):机器学习的观点。国际会计师联合会系统识别专题讨论会会议记录
[12] Chen,T.和Ljung,L.(2015b)。正则化系统辨识的核结构(ii):系统理论视角。国际会计师联合会系统识别专题讨论会会议记录; Chen,T.和Ljung,L.(2015b)。正则化系统辨识的核结构(ii):系统理论视角。国际会计师联合会系统识别专题讨论会会议记录
[13] Chen,T。;奥尔松,H。;Ljung,L.,关于传递函数、正则化和高斯过程的估计——重访,Automatica,481525-1535,(2012)·Zbl 1269.93126号
[14] Chiuso,A.,动力学系统中的正则化和贝叶斯学习:过去、现在和未来,控制年度评论,41,24-38,(2016)
[15] Chiuso,A.、Chen,T.、Ljung,L.和Pillonetto,G.(2014)。非参数线性系统辨识的多核设计。程序。第53届IEEE决策与控制会议; Chiuso,A.、Chen,T.、Ljung,L.和Pillonetto,G.(2014)。非参数线性系统辨识的多核设计。程序。第53届IEEE决策与控制会议
[16] 盖,T.M。;Thomas,J.A.,《信息理论的要素》(2012),John Wiley&Sons
[17] Cucker,F。;Smale,S.,《学习的数学基础》,美国数学学会,39,1,1-49,(2002)·Zbl 0983.68162号
[18] Dinuzzo,F.,线性时不变系统识别的内核,SIAM控制与优化杂志,53,5,3299-3317,(2015)·Zbl 1329.93049号
[19] 狄奥多罗斯·叶夫根纽(Theodoros Evgeniou);马西米利亚诺·蓬蒂尔;Poggio,Tomaso,正则化网络和支持向量机,计算数学进展,13,1,1-50,(2000)·Zbl 0939.68098号
[20] Torkel很高兴。;伦纳德·Ljung。,控制理论:多变量和非线性方法,(2000年),Taylor&Francis
[21] Jaynes,E.T.,《关于最大熵方法的基本原理》,IEEE学报,70,9,939-952,(1982)
[22] Ljung,L.,《系统识别-用户理论》,(1999),新泽西州普伦蒂斯·霍尔上鞍河。
[23] Michel Loève,(概率论,第二卷,数学研究生教材,(1978))·Zbl 0385.60001号
[24] 马可纳托,A。;Schoukens,M。;Schoukens,J.,基于滤波器的脉冲响应建模调节,IET控制理论与应用,11,194-204,(2016)
[25] 穆碧强;Chen,Tinshi,《关于规范化LTI系统识别的输入设计:功率约束输入》,Automatica,(2017年),提交出版,网址:http://arxiv.org/abs/1708.05539 ·Zbl 1406.93360号
[26] Mu,B.、Chen,T.和Ljung,L.(2017a)。fir模型超参数的调整——一个渐近理论。国际会计师联合会2017年世界大会会议记录; Mu,B.,Chen,T.和Ljung,L.(2017a)。fir模型超参数的调整——一个渐近理论。国际会计师联合会2017年世界大会会议记录
[27] Mu,Biqiang,Chen,Tianshi,&Ljung,Lennart(2017b)。基于核的正则化LTI系统辨识的输入设计:功率约束输入。程序。第56届IEEE决策与控制会议; Mu,Biqiang,Chen,Tinshi,&Ljung,Lennart(2017b)。基于核的正则化LTI系统辨识的输入设计:功率约束输入。程序。第56届IEEE决策与控制会议·Zbl 1406.93360号
[28] 穆碧强;陈天石;Ljung,Lennart,关于基于核的正则化方法超参数估计的渐近性质,Automatica,(2017),暂时接受,可从http://arxiv.org/abs/1707.00407 ·Zbl 1401.93197号
[29] Brett Ninness;Goodwin,Graham C.,模型质量评估,Automatica,31,121771-1797,(1995)·Zbl 0846.93021号
[30] Gianluigi Pillonetto;Chiuso,Alessandro,正则核回归和线性系统识别中的调整复杂性:边际似然估计量的稳健性,Automatica,51,106-117,(2015)·Zbl 1330.93235号
[31] Gianluigi Pillonetto;Chiuso,Alessandro,正则核回归和线性系统识别中的调整复杂性:边际似然估计量的稳健性,Automatica,58,106-117,(2015)·Zbl 1330.93235号
[32] Pillonetto,G。;Chiuso,A。;De Nicolao,G.,线性系统的预测误差识别:非参数高斯回归方法,Automatica,47,2,291-305,(2011)·Zbl 1207.93110号
[33] Pillonetto,G。;De Nicolao,G.,《基于内核的线性系统识别新方法》,Automatica,46,1,81-93,(2010)·Zbl 1214.93116号
[34] Pillonetto,G。;迪努佐,F。;Chen,T。;De Nicolao,G。;Ljung,L.,系统识别、机器学习和功能估计中的核方法:一项调查,Automatica,50,3,657-682,(2014)·Zbl 1298.93342号
[35] 拉斯穆森,C.E。;Williams,C.K.I.,机器学习的高斯过程,(2006),麻省理工学院剑桥出版社,马萨诸塞州·Zbl 1177.68165号
[36] Schön,T.B。;Wills,A。;Ninness,B.,非线性状态空间模型的系统识别,Automatica,47,1,39-49,(2011)·Zbl 1209.93155号
[37] Silverman,R.,局部平稳随机过程,信息理论的IRE事务,3,3,182-187,(1957)
[38] Sjöberg,J.、McKelvey,T.和Ljung,L.(1993)。关于正则化在系统辨识中的应用。国际会计师联合会2012年世界大会会议记录; Sjöberg,J.、McKelvey,T.和Ljung,L.(1993)。关于正则化在系统辨识中的应用。国际会计师联合会2012年世界大会会议记录
[39] 因戈斯坦瓦特;Christmann,Andreas,支持向量机,(2008),Springer Science&Business Media New York·兹比尔1203.68171
[40] Tikhonov,A.N。;Arsenin,V.Y.,《不适定问题的解决方案》,(1977年),温斯顿/威利华盛顿特区·Zbl 0354.65028号
[41] Yaglom,Akira Moiseevich,平稳和相关随机函数的相关理论,(1987),Springer·Zbl 0685.62077号
[42] 周,K。;多伊尔,J.C。;Glover,K.,鲁棒和最优控制,(1996),新泽西州恩格尔伍德悬崖Prentice Hall·Zbl 0999.49500
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。