×
吉安路易吉·皮洛内托;陈天石;亚历山德罗·齐乌索;朱塞佩·德尼古拉;伦纳特·永

使用原子、核和基于核的规范进行正则化线性系统识别：稳定性约束的作用。 （英语） Zbl 1338.93121号

Automatica公司 69, 137-149 (2016).
摘要：受机器学习文献的启发，最近在线性系统辨识中引入了新的正则化技术。特别是，所有采用的估计量都解决了正则化最小二乘问题，这与分配给脉冲响应的惩罚项的性质不同。流行的选择包括原子和核规范（应用于Hankel矩阵）以及由所谓的稳定样条核所诱导的规范。本文报告了基于这些不同类型正则化子的估计量的比较研究。我们的发现表明，稳定样条核优于基于原子和核规范的方法，因为它们适当地嵌入了脉冲响应稳定性和平滑度的信息。使用正则化的贝叶斯解释说明了这一点。我们还设计了一类由稳定样条/TC核的“积分”形式定义的新正则化子。在相当现实的实验条件下，当经典预测误差方法配有模型阶数选择预言器时，新的估计量也优于传统预测误差方法。

引用于21文件

理学硕士：

93B30型 系统标识
93二氧化碳 控制理论中的线性系统
68T05型 人工智能中的学习和自适应系统
93B40码 系统理论中的计算方法（MSC2010）

关键词：

线性系统辨识;基于核的正则化;原子和核规范;Hankel操作员;拉索;正则化的贝叶斯解释;高斯过程;再生核Hilbert空间

软件：

套索;CVX公司;格尔姆奈特;ElemStatLearn（电子状态学习）
PDF格式BibTeX公司 XML格式引用
\textit{G.Pillonetto}等人，Automatica 69，137--149（2016；Zbl 1338.93121）
全文： 内政部 arXiv公司 链接

参考文献：

[1] 亚当斯，R.A。；Fournier，J.，Sobolev spaces（2003），学术出版社·Zbl 1098.46001号
[2] Aja-Fernandez，S。；加西亚，R。；陶，D。；Li，X.，图像处理和计算机视觉中的张量，（模式识别进展（2009），Springer，编辑）·Zbl 1175.68002号
[3] Akaike，H.，统计模型识别的新视角，IEEE自动控制汇刊，AC-19，716-723（1974）·Zbl 0314.62039号
[4] Aravkin，A。；伯克·J。；Chiuso，A。；Pillonetto，G.，回归和稀疏估计的凸与非凸估计：ARD和GLasso的均方误差特性，机器学习研究杂志，15，217-252（2014）·Zbl 1318.62238号
[5] Aronszajn，N.，《再生核理论》，《美国数学学会学报》，68337-404（1950）·Zbl 0037.20701号
[6] 博图，L。；沙佩尔，O。；DeCoster，D。；Weston，J.，《大规模内核机器》（2007），麻省理工学院出版社：麻省理学院出版社，美国马萨诸塞州剑桥，编辑。
[8] 卡马乔，E.F。；Bordons，C.，模型预测控制（控制和信号处理高级教科书（2004），Springer Verlag）·Zbl 1080.93001号
[9] 坎迪斯，E.J。；Recht，B.，通过凸优化实现精确矩阵补全，计算数学基础，9717-772（2009）·Zbl 1219.90124号
[10] Chandrasekaran，V。；Recht，B。；帕里罗，P.A。；Willsky，A.S.，线性反问题的凸几何，计算数学基础，12，6，805-849（2012）·Zbl 1280.52008年
[11] Chen，T。；安徒生，M.S。；永，L。；Chiuso，A。；Pillonetto，G.，使用顺序凸优化技术通过基于稀疏多核的正则化进行系统识别，IEEE自动控制汇刊，59，11，2933-2945（2014）·Zbl 1360.93720号
[13] Chen，T。；Ohlsson，H。；Ljung，L.，关于传递函数、正则化和高斯过程的估计——再访问，Automatica，48，8，1525-1535（2012）·Zbl 1269.93126号
[16] Cucker，F。；Smale，S.，《学习的数学基础》，《美国数学学会公报》，39，1-49（2001）·Zbl 0983.68162号
[18] Donoho，D.L.，压缩感知，IEEE信息理论事务，521289-1306（2006）·Zbl 1288.94016号
[19] Donoho，D.L.，对于大多数大型线性方程组的待定系统，最小（ell_1）范数解也是最稀疏的解，《纯粹与应用数学通讯》，59，797-829（2006）·Zbl 1113.15004号
[20] Efron，B.，《预测误差的估计：协方差惩罚和交叉验证》，《美国统计协会杂志》，99，14，619-632（2004）·Zbl 1117.62324号
[21] 范，J。；Li，R.，通过非一致惩罚似然进行变量选择及其预言性质，美国统计协会杂志，96，456，1348-1360（2001）·Zbl 1073.62547号
[23] 弗里德曼，J。；哈斯蒂，T。；Tibshirani，R.，通过坐标下降的广义线性模型的正则化路径，统计软件杂志，33，1-22（2010）
[24] 吉尔克斯，W.R。；理查森，S。；Spiegelhalter，D.J.，《马尔可夫链蒙特卡洛实践》（1996），查普曼和霍尔：查普曼与霍尔伦敦·Zbl 0832.00018号
[25] 格兰特，M。；Boyd，S.，非光滑凸程序的图形实现，（Blondel，V.；Boyd·Zbl 1205.90223号
[28] 哈斯蒂·T·J。；Tibshirani，R.J。；弗里德曼，J.，《统计学习的要素》。数据挖掘、推理和预测（2001），Springer:Springer Canada·Zbl 0973.62007号
[30] 詹姆斯·W·。；Stein，C.，带二次损失的估计，（第四届伯克利数理统计与概率研讨会论文集，第一卷（1961年），加利福尼亚大学出版社），361-379·Zbl 1281.62026号
[31] 刘，Z。；Vandenberghe，L.，核范数逼近的内点方法及其在系统辨识中的应用，SIAM矩阵分析与应用杂志，31，3，1235-1256（2009）·Zbl 1201.90151号
[32] Ljung，L.，用户系统识别理论（1999），Prentice Hall:Prentice Hall Upper Saddle River，新泽西州
[33] 麦凯，D.J.C.，贝叶斯插值，神经计算，4415-447（1992）
[34] Maritz，J.S。；Lwin，T.，经验贝叶斯方法（1989），查普曼和霍尔·兹比尔0731.62040
[37] Pillonetto，G。；Chiuso，A.，正则核回归和线性系统识别中的调整复杂性：边际似然估计的稳健性，Automatica，58，106-117（2015）·Zbl 1330.93235号
[39] Pillonetto，G。；Chiuso，A。；De Nicolao，G.，线性系统的预测误差识别：非参数高斯回归方法，Automatica，47，2，291-305（2011）·Zbl 1207.93110号
[40] Pillonetto，G。；De Nicolao，G.，《基于内核的线性系统识别新方法》，Automatica，46，1，81-93（2010）·Zbl 1214.93116号
[41] Pillonetto，G。；迪努佐，F。；Chen，T。；De Nicolao，G。；Ljung，L.，系统识别、机器学习和函数估计中的核方法：一项调查，Automatica，50，3657-682（2014）·Zbl 1298.93342号
[43] 普里瓦拉，S。；Siroky，J。；Ferkl，L。；Cigler，J.，《预测每小时建筑能耗：伟大的能源预测器枪战：结果概述和讨论》，《能源与建筑》，第43期，第45-48页（2011年）
[44] 罗哈斯，C.R。；托斯·R。；Hjalmarsson，H.，多项式和有理动力学模型的稀疏估计，IEEE自动控制汇刊，59，11，2962-2977（2014）·Zbl 1360.93679号
[47] 朔尔科普夫，B。；Smola，A.J.，（《使用内核学习：支持向量机、正则化、优化和超越》。使用内核学习，支持向量机，正则化、最优化和超越，自适应计算和机器学习（2001），麻省理工学院出版社）
[50] Smith，R.S.，使用核范数最小化和Hankel矩阵实现的频域子空间识别，IEEE自动控制汇刊，59，11，2886-2896（2014）·Zbl 1360.93191号
[51] Söderström，T。；Stoica，P.，《系统识别》（1989），Prentice-Hall·兹比尔0714.93056
[52] Tibshirani，R.，《通过套索进行回归收缩和选择》，《皇家统计学会期刊：B辑》，58267-288（1994）·Zbl 0850.62538号
[53] Wahba，G.，观测数据的样条模型（1990），SIAM:SIAM Philadelphia·Zbl 0813.62001号
[54] Wahlberg，B.，使用拉盖尔模型进行系统识别，IEEE自动控制汇刊，36，5，551-562（1991）·Zbl 0738.93078号
[56] Zou，H.，自适应Lasso和it oracle属性，美国统计协会杂志，101，476，1418-1429（2006）·Zbl 1171.62326号
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配，并且可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。