×

部分线性模型的自动模型选择。 (英语) Zbl 1170.62034号

摘要:我们提出并研究了部分线性模型中变量选择的统一过程。提出了一种新的双惩罚最小二乘法,利用光滑样条估计非参数部分,并对参数分量应用收缩惩罚以实现模型简约。理论上,我们表明,在适当选择平滑和正则化参数的情况下,所提出的方法可以与oracle估计器一样有效[J.风扇R.李,通过非冲突惩罚似然及其oracle属性进行变量选择。J.Am.Stat.Assoc.96,第456、1348–1360号(2001年;Zbl 1073.62547号)]. 我们还研究了当参数效应的数量与样本大小不同时,估计量的渐近性质。
对于估计量,导出了协方差和置信区间的频繁估计和贝叶斯估计。该程序的一个最大优点是其线性混合模型(LMM)表示,这大大方便了使用标准统计软件来实现它。此外,LMM框架可以将平滑参数视为方差分量,因此可以方便地将其与其他回归系数一起估计。进行了大量的数值研究,以证明所提程序的有效性能。

MSC公司:

62G08号 非参数回归和分位数回归
6220国集团 非参数推理的渐近性质
62甲12 多元分析中的估计
62J07型 岭回归;收缩估计器(拉索)
PDF格式BibTeX公司 XML格式引用
全文: 内政部 链接

参考文献:

[1] 哈斯蒂,T。;Tibshirani,R.J.,广义加法模型(1990),查普曼和霍尔:查普曼与霍尔伦敦·Zbl 0747.62061号
[2] Speckman,P.,部分线性模型中的核平滑,皇家统计学会期刊B辑,50413-436(1988)·Zbl 0671.62045号
[3] 恩格尔,R。;格兰杰,C。;赖斯,J。;Weiss,A.,天气和电力销售之间关系的非参数估计,美国统计协会杂志,81,310-386(1986)
[4] Heckman,N.E.,部分线性模型中的样条平滑,皇家统计学会期刊B辑,48,244-248(1986)·Zbl 0623.62030号
[5] Wahba,G.,《观测数据的样条模型》(1990年),工业和应用数学学会·Zbl 0813.62001号
[6] Green,P.J。;Silverman,B.W.,非参数回归和广义线性模型(1994),Chapman和Hall:Chapman和Hall伦敦·兹比尔0832.62032
[7] Gu,C.,平滑样条方差分析模型(2002),Springer:Springer纽约·Zbl 1051.62034号
[8] Ruppert,D。;Wand,M.P。;Carroll,R.J.,《半参数回归》(2003),剑桥大学出版社:剑桥大学出版社,纽约剑桥·Zbl 1038.62042号
[9] Liang,H.,部分线性模型和数值比较中的估计,计算统计和数据分析,50675-687(2006)·Zbl 1431.62141号
[10] Breiman,L.,使用非负garrote进行更好的子集选择,技术计量学,37373-384(1995)·Zbl 0862.62059号
[11] Tibshirani,R.,《通过套索进行回归收缩和选择》,《皇家统计学会期刊B辑》,58267-288(1996)·Zbl 0850.62538号
[12] 范,J。;Li,R.,通过非一致惩罚似然进行变量选择及其预言性质,美国统计协会杂志,961348-1360(2001)·Zbl 1073.62547号
[13] 埃夫隆,B。;哈斯蒂,T。;约翰斯通,I。;Tibshirani,R.,最小角回归,《统计年鉴》,32407-451(2004)·Zbl 1091.62054号
[14] Zou,H.,自适应套索及其预言性质,《美国统计协会杂志》,1011418-1429(2006)·Zbl 1171.62326号
[15] 张,H。;Lu,W.,考克斯比例风险模型的自适应套索,生物统计学,94691-703(2007)·Zbl 1135.62083号
[16] Mallows,C.,《关于(C_p)的一些评论》,《技术计量学》,第15期,第661-675页(1973年)·Zbl 0269.62061号
[17] Akaike,H.,高斯自回归滑动平均模型的最大似然识别,生物统计学,60255-265(1973)·Zbl 0318.62075号
[18] Schwarz,G.,估算模型的维度,《统计年鉴》,第6461-464页(1978年)·Zbl 0379.62005年
[19] Linhart,H。;Zucchini,W.,《模型选择》(1986),威利出版社:威利纽约·Zbl 0665.62003年
[20] Miller,A.J.,《回归中的子集选择》(2002),查普曼和霍尔:查普曼与霍尔伦敦·Zbl 1051.62060号
[21] 范,J。;Li,R.,《纵向数据分析中半参数建模的新估计和模型选择程序》,美国统计协会杂志,99710-723(2004)·Zbl 1117.62329号
[22] Bunea,F.,《半参数回归中的一致协变量选择和后模型选择推断》,《统计学年鉴》,32898-927(2004)·Zbl 1092.62045号
[23] 布尼亚,F。;Wegkamp,M.,部分线性回归中的两阶段模型检测程序,《加拿大统计杂志》,32,105-118(2004)·兹比尔1063.62052
[24] 范,J。;Peng,H.,具有发散参数数的非凹惩罚似然,《统计学年鉴》,32928-961(2004)·Zbl 1092.62031号
[25] 谢,H。;Huang,J.,高维部分线性模型中的SCAD惩罚回归,《统计年鉴》,37673-696(2009)·Zbl 1162.62037号
[26] Huber,P.,《稳健回归:渐近、猜想和蒙特卡罗》,《统计年鉴》,1799-821(1973)·Zbl 0289.62033号
[27] 克雷文,P。;Wahba,G.,用样条函数平滑噪声数据:用广义交叉验证方法估计平滑的正确程度,数值数学,31377-403(1979)·Zbl 0377.65007号
[28] 张,D。;林,X。;Raz,J。;Sowers,M.,纵向数据的半参数随机混合模型,美国统计协会杂志,93,710-719(1998)·Zbl 0918.62039号
[29] Green,P.J.,一般半参数回归模型的惩罚似然,国际统计评论,55,245-260(1987)·Zbl 0636.62068号
[30] Wahba,G.,广义样条平滑问题中选择平滑参数的GCV和GML比较,统计年鉴,13,1378-1402(1985)·Zbl 0596.65004号
[31] Speed,T.,G.K.Robinson对“blup是一件好事:随机效应的估计”的讨论,《统计科学》,第6期,第15-51页(1991年)·Zbl 0955.62500号
[32] Wang,H。;Li,R。;Tsai,C.L.,SCAD调谐参数选择器,Biometrika,94553-568(2007)·Zbl 1135.62058号
[33] Wahba,G.,交叉验证平滑样条的贝叶斯“置信区间”,英国皇家统计学会期刊B辑,45133-150(1983)·Zbl 0538.65006号
[34] Ruppert,D。;护套,S。;Wand,M.,局部最小二乘回归的有效带宽选择器,美国统计协会杂志,901257-1270(1995)·Zbl 0868.62034号
[35] 拉维库马尔,P。;刘,H。;Lafferty,J。;Wasserman,L.,《垃圾邮件:稀疏加性模型》,《神经信息处理系统进展》,第20期,第1202-1208页(2008年)
[36] L.Meier,S.Van de Geer,P.Bühlmann,高维加性建模,http://arxiv.org/abs/0806.4115v1, 2008; L.Meier,S.Van de Geer,P.Bühlmann,高维加性建模,http://arxiv.org/abs/0806.4115v1, 2008
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。