×

分段线性解路径,应用于直接权重优化。 (英语) Zbl 1152.93022号

摘要:最近,在正则回归领域内,针对具有分段线性解路径的参数优化问题,开发了路径跟踪算法。本文将这些算法推广到更广泛的一类问题。结果表明,该方法可应用于非参数系统辨识方法直接加权优化(DWO),并可用于提高该方法的计算效率。DWO方法中最重要的设计参数是控制偏差-方差权衡的参数(lambda),使用分段线性解路径的参数优化意味着可以同时有效地计算所有值(lambda\)的DWO估计。这允许设计具有计算吸引力的自适应带宽选择算法。提出了一种DWO算法,并通过两个示例进行了演示。

MSC公司:

93B40码 系统理论中的计算方法(MSC2010)
93B30型 系统标识
93立方厘米 控制理论中的非线性系统
90C20个 二次规划
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Akaike,H.(1973年)。信息论和最大似然原理的推广。第二届信息理论国际研讨会; Akaike,H.(1973)。信息论和最大似然原理的推广。第二届信息理论国际研讨会·Zbl 0283.62006号
[2] Atkeson,C.G。;摩尔,A.W。;Schaal,S.,局部加权学习,《人工智能评论》,11,1-5,11-73(1997)
[3] Atkeson,C.G。;摩尔,A.W。;Schaal,S.,控制的局部加权学习,《人工智能评论》,11,1-5,75-113(1997)
[4] Bemporad,A。;莫拉里,M。;Dua,V。;Pistikopoulos,E.N.,约束系统的显式线性二次调节器,Automatica,38,1,3-20(2002)·Zbl 0999.93018号
[5] Bontempi,G。;比拉塔里,M。;Bersini,H.,《局部建模和控制设计的懒惰学习》,《国际控制杂志》,72,7-8,643-658(1999)·Zbl 0938.93531号
[6] Borrelli,F.(线性和混合系统的约束最优控制。线性和混合体系的约束优化控制,控制和信息科学讲稿,卷290(2003),Springer-Verlag)·Zbl 1030.49036号
[7] 博伊德,S。;Vandenberghe,L.,凸优化(2004),剑桥大学出版社:剑桥大学出版社·Zbl 1058.90049号
[8] 西南克利夫兰。;Devlin,S.J.,局部加权回归:通过局部拟合进行回归分析的方法,美国统计协会杂志,83,403,596-610(1988)·Zbl 1248.62054号
[9] 埃夫隆,B。;哈斯蒂,T。;约翰斯通,I。;Tibshirani,R.,最小角回归,《统计年鉴》,32,2,407-499(2004)·Zbl 1091.62054号
[10] J.古达特。;Guerra Vasquez,F。;Jongen,H.T.,《参数优化:奇点、路径跟踪和跳跃》(1990),John Wiley&Sons·Zbl 0718.90056号
[11] Härdle,W.,(《应用非参数回归》,《计量经济学社会专著》,第19卷(1990年),剑桥大学出版社)·Zbl 0714.62030号
[12] Juditsky,A.、Nazin,A.、Roll,J.和Ljung,L.(2004)。回归函数的自适应DWO估计。第六届IFAC非线性控制系统研讨会; Juditsky,A.、Nazin,A.、Roll,J.和Ljung,L.(2004)。回归函数的自适应DWO估计。第六届IFAC非线性控制系统研讨会
[13] Mallows,C.L.,《关于(C_p)的一些评论》,《技术计量学》,第15期,第661-676页(1973年)·Zbl 0269.62061号
[14] Mayne,D.Q.、Raković,S.V.和Kerrigan,E.C.(2007年)。最优控制和分段参数规划。欧洲控制会议; Mayne,D.Q.、Raković,S.V.和Kerrigan,E.C.(2007年)。最优控制和分段参数规划。欧洲控制会议
[15] Nazin,A.、Roll,J.和Ljung,L.(2006年)。近似线性函数的直接重量优化:最优化和设计。第14届IFAC系统识别研讨会; Nazin,A.、Roll,J.和Ljung,L.(2006年)。近似线性函数的直接重量优化:最优化和设计。第十四届IFAC系统识别研讨会·Zbl 1127.93060号
[16] (Pistikopoulos,E.N.;Georgiadis,M.C.;Dua,V.,多参数编程,第1卷(2007年),Wiley VCH:Wiley VCH Weinheim,德国)
[17] Rockafellar,R.T.,凸分析(1970),普林斯顿大学出版社:普林斯顿大学出版,新泽西州普林斯顿·Zbl 0229.90020号
[18] Roll,J.(2003)。系统辨识的局部和分段仿射方法。博士论文; Roll,J.(2003)。系统辨识的局部和分段仿射方法。博士论文
[19] Roll,J.(2007)。参数分段二次规划的分段线性解路径及其在直接权重优化中的应用。技术报告LiTH-ISY-R-2816; Roll,J.(2007)。参数分段二次规划的分段线性解路径及其在直接权重优化中的应用。技术报告LiTH-ISY-R-2816
[20] 罗尔,J。;Nazin,A。;Ljung,L.,通过直接权重优化进行非线性系统辨识,Automatica,41,3,475-490(2005)·Zbl 1127.93060号
[21] Roll,J.、Nazin,A.和Ljung,L.(2005b)。非线性系统辨识的一般直接权重优化框架。第十六届IFAC世界自动控制大会; Roll,J.、Nazin,A.和Ljung,L.(2005b)。非线性系统辨识的一般直接权重优化框架。第十六届IFAC世界自动控制大会·Zbl 1127.93060号
[22] Rosset,S。;Zhu,J.,最小角回归-讨论,《统计年鉴》,32,2,469-475(2004)
[23] Rosset,S。;Zhu,J.,分段线性正则解路径,《统计学年鉴》,35,3,1012-1030(2007)·Zbl 1194.62094号
[24] Stenman,A.(1999)。按需建模:算法、分析和应用。博士论文; Stenman,A.(1999)。按需建模:算法、分析和应用。博士论文
[25] Tibshirani,R.,《通过套索进行回归收缩和选择》,《皇家统计学会杂志》。B系列(方法学),58,1,267-288(1996)·Zbl 0850.62538号
[26] 特伦德尔,P。;Johansen,T.A。;Bempoad,A.,多参数二次规划算法和显式MPC解,Automatica,39,3,489-497(2003)·兹比尔1019.93019
[27] 袁,M。;Lin,Y.,《分组变量回归中的模型选择和估计》,英国皇家统计学会杂志。B系列,统计方法,68,1,49-67(2006)·Zbl 1141.62030号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。