×

稀疏高维变系数模型的局部线性平滑。 (英语) Zbl 1349.62313号

摘要:变系数模型是参数线性模型的有益推广。它们允许依赖于协变量或随时间发展的参数。它们在时间序列分析和回归中有广泛的应用。在时间序列分析中,它们被证明是一种强有力的方法,可以推断出随时间推移的行为和结构变化。本文研究高维变系数模型,包括时变系数模型。高维非参数模型中的大多数研究都处理了序列估计的惩罚问题。另一方面,核平滑在非参数估计中,特别是在时变系数模型中,是一种建立良好、理解良好且成功的方法。但对于高维模型中的内核平滑,目前还没有做太多的工作。在本文中,我们将缩小这一差距,并为稀疏高维模型开发一种惩罚核平滑方法。所提出的估计器使用了一种新的惩罚方案,该方案使用核平滑。我们在高维度上建立了一个通用的、系统的理论分析。这补充了最近基于基近似的替代方法,并允许更直接的参数继承高维线性模型的见解。此外,我们不仅发展了具有独立观测值的回归理论,还发展了高维稀疏变系数模型中局部平稳时间序列的理论。高维环境中局部平稳过程理论的发展带来了技术挑战。我们还解决了数值实现和惩罚调整参数的数据自适应选择问题。通过仿真研究了所提方法的有限样本性能,并以NASDAQ综合指数数据为例进行了实证分析。

MSC公司:

62J05型 线性回归;混合模型
62J07型 岭回归;收缩估计器(拉索)
62克05 非参数估计
62M10个 统计学中的时间序列、自相关、回归等(GARCH)
62P05号 统计学在精算科学和金融数学中的应用
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] P.Bühlmann和S.van de Geer。,高维数据统计。施普林格,2011年·Zbl 1273.62015年
[2] 蔡总。具有串行相关误差的趋势时变系数时间序列模型。,《计量经济学杂志》,136:163-1882007·Zbl 1418.62306号 ·doi:10.1016/j.jeconom.2005.08.004
[3] B.Chen和Y.Hong。通过非参数回归测试时间序列模型中的平滑结构变化。,《计量经济学》,80:1157-11832012年·Zbl 1274.62557号 ·doi:10.3982/ECTA7990
[4] J.Chen和Z.Chen。大模型空间模型选择的扩展贝叶斯信息准则。,Biometrika,95:759-771,2008年·Zbl 1437.62415号 ·doi:10.1093/biomet/asn034
[5] M.-Y.Cheng、T.Honda、J.Li和H.Peng。超高维纵向数据的非参数独立性筛选和结构识别。,《统计年鉴》,42:11819-18492014年·Zbl 1305.62169号 ·doi:10.1214/14-AOS1236
[6] M.-Y.Cheng、T.Honda和J.-T.Zhang。稀疏超高维变系数模型的前向变量选择。,J.Amer。统计。协会,即将于2015年出版。
[7] CVX Research,Inc.CVX:Matlab软件,用于严格的凸编程,版本2.0 beta。,2012年9月。
[8] R.Dahlhaus。关于局部平稳过程的Kullback-Leibler信息散度。,斯托克。程序。申请,62:139-1681996年·Zbl 0849.60032号 ·doi:10.1016/0304-4149(95)00090-9
[9] R.Dahlhaus。非平稳过程的时间序列模型拟合。,《统计年鉴》,25:1-371997年·Zbl 0871.62080号 ·doi:10.1214/aos/1034276620
[10] R.Dahlhaus、M.H.Neumann和R.V.Sachs。时变自回归过程的非线性小波估计。,伯努利,5:873-9061999·Zbl 0954.62103号 ·doi:10.2307/3318448
[11] L.Dümbgen、S.van de Geer、M.Veraar和J.Wellner。重新审视了内米洛夫斯基的不平等。,阿默尔。数学。每月,117:138-1602010·Zbl 1213.60039号 ·doi:10.4169/000298910X476059
[12] J.Fan和R.Li.基于非协调惩罚似然的变量选择及其预言性质。,J.Amer。统计师。协会,96:1348-13602001年·兹比尔1073.62547 ·doi:10.1198/016214501753382273
[13] J.Fan和W.Zhang。变系数模型的统计方法。,统计师。及其接口,1:179-1952008·Zbl 1230.62031号 ·doi:10.41310/SII.2008.v1.n1.a15
[14] J.Fan、J.Lv和L.Qi。经济学中的稀疏高维模型。,《经济学年度评论》,2011年3月29日至31日。
[15] J.Fan、Y.Ma和W.Dai。稀疏超高维变系数模型中的非参数独立筛选。,J.Amer。统计师。协会,109:1270-12842014年·Zbl 1368.62095号 ·doi:10.1080/01621459.2013.879828
[16] J.Friedman、T.Hastie和R.Tibshirani。广义线性模型的坐标下降正则化路径。,J.统计。软件,33(1),2010年。
[17] P.Fryzlewicz和S.S.Rao。ARCH和时变ARCH过程的混合特性。,伯努利,17:320-3462011·兹比尔1284.62550 ·doi:10.3150/10-BEJ270
[18] M.Grant和S.Boyd。非光滑凸程序的图形实现。编辑V.Blondel、S.Boyd和H.Kimura,《学习和控制的最新进展》,《控制和信息科学的讲义》,第95-110页。Springer-Verlag有限公司,2008年·Zbl 1205.90223号 ·数字对象标识代码:10.1007/978-1-84800-155-87
[19] T.Hu和Y.Xia。自适应半变系数模型选择。,中国统计局,22:575-5992012·兹比尔1511.62168
[20] Y.Kim、S.Kwon和H.Choi。高维一致的模型选择标准。,机器学习研究杂志,13:1037-10572012·Zbl 1283.62143号
[21] O.Klopp和M.Pensky。稀疏高维变系数模型:非渐近极大极小研究。,统计年鉴,43 :1273-1299, 2015. ·Zbl 1328.62339号 ·doi:10.1214/15-AOS1309
[22] D.Kong、H.D.Bondell和Y.Wu。基于局部多项式回归的变系数模型的区域选择。,计算。统计师。和数据分析,83:236-2502015。
[23] E.R.Lee、H.Noh和B.U.Park。通过分位数回归模型的贝叶斯信息准则进行模型选择。,J.Amer。统计师。协会,109:216-2292014年·Zbl 1367.62122号 ·doi:10.1080/016214592013.836975
[24] H.Lian。高维广义变系数模型的变量选择。,中国统计局,22:1563-15882012·Zbl 1253.62027号
[25] E.利伯舍尔。混合随机变量和的强收敛性及其在密度估计中的应用。,斯托克。程序。申请,65:69-80, 1996. ·Zbl 0885.62045号 ·doi:10.1016/S0304-4149(96)00096-8
[26] B.U.Park、E.Mammen、Y.K.Lee和E.R.Lee。变系数回归模型:回顾与新发展。,《国际统计评论》,83:36-642015年·doi:10.1111/insr.12029
[27] P.M.罗宾逊。时变参数的非参数估计。《经济结构变化的统计分析和预测》编辑P.Hackl,第253-264页。Springer-Verlag,1989年。
[28] P.M.罗宾逊。时变非线性回归。P.Hackl和A.H.Westland主编,《经济结构变化分析与预测》,179-190页。施普林格,1991年。
[29] R.Tibshirani。通过套索进行回归收缩和选择。,J.Royal Stat.Soc.B,58:267-2881996年·Zbl 0850.62538号
[30] S.van de Geer和P.Bühlmann。根据用于证明Lasso.的oracle结果的条件。,选举。J.统计,3 :1360-1392, 2009. ·Zbl 1327.62425号 ·doi:10.1214/09-EJS506
[31] S.A.van de Geer。,M估计中的经验过程。剑桥大学出版社,2000年·Zbl 1179.62073号
[32] M.沃格特。局部平稳时间序列的非参数回归。,《统计年鉴》,40:2601-26332012·Zbl 1373.62459号 ·doi:10.1214/12-AOS1043
[33] D.Wang和K.B.Kulasekera。变系数部分线性模型中的参数分量检测和变量选择。,多元分析杂志,112:117-1292012·Zbl 1273.62093号 ·doi:10.1016/j.jmva.2012.05.006
[34] H.Wang和C.Leng。最小二乘近似统一LASSO估计。,美国统计协会杂志,102:1418-14292007·Zbl 1306.62167号 ·doi:10.1198/0162145000000509
[35] H.Wang和Y.Xia。变系数模型的收缩率估计。,《美国统计协会杂志》,104:747-7572009年·Zbl 1388.62213号 ·doi:10.1198/jasa.2009.0138
[36] H.Wang、R.Li和C.-L.Tsai。平滑剪裁绝对偏差方法的调整参数选择器。,《生物特征》,94:553-5682007·Zbl 1135.62058号 ·doi:10.1093/biomet/asm053
[37] H.Wang、B.Li和C.Leng。具有发散参数数的收缩率调谐参数选择。,J.Royal Stat.Soc.B,71:671-6832009年·Zbl 1250.62036号 ·文件编号:10.1111/j.1467-9868.2008.00693.x
[38] F.Wei、J.Huang和H.Li。高维变系数模型中的变量选择和估计。,中国统计局,21:1515-15402011年·Zbl 1225.62056号 ·doi:10.5705/ss.2009.316
[39] Y.Xia、W.Zhang和H.Tong。半变系数模型的有效估计。,《生物统计学》,91:661-6812004年·Zbl 1108.62019号 ·doi:10.1093/biomet/91.3.661
[40] 薛林,曲安。具有全局最优的高维变系数模型中的变量选择。,机器学习研究杂志,13:1973-19982012·Zbl 1435.62093号
[41] 袁敏洪、林毅。分组变量回归中的模型选择与估计。,J.Royal Stat.Soc.B,B68:49-672006年·Zbl 1141.62030号 ·doi:10.1111/j.1467-9868.2005302.x
[42] C.H.Zhang和J.Huang。高维线性回归中LASSO选择的稀疏性和偏差。,《统计年鉴》,4:1567-15942008年·Zbl 1142.62044号 ·doi:10.1214/07-AOS520
[43] H.Zhang、G.Cheng和Y.Liu。线性还是非线性?部分线性mdoels的Augomatic结构发现。,《美国统计协会杂志》,106:1099-11122011年·Zbl 1229.62051号 ·doi:10.1198/jasa.2011.tm10281
[44] T.Zhang和W.B.Wu。时变回归模型的推断。,《统计年鉴》,40:1376-1402,2012年·Zbl 1257.62049号 ·doi:10.1214/12-AOS1010
[45] H.邹。自适应套索及其oracle属性。,美国统计协会杂志,101:1418-14292006·Zbl 1171.62326号 ·doi:10.1198/016214500000735
[46] H.Zou和R.Li.非冲突惩罚似然模型中的一步稀疏估计。,《统计年鉴》,36:1509-15332008年·Zbl 1142.62027号 ·doi:10.1214/0090536007000000802
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。