×

具有变量选择和降维的高维局部多项式回归。 (英语) Zbl 1523.62010年

摘要:通过建立半参数多指标模型,在非参数回归中考虑了变量选择和降维以提高估计精度。然而,大多数现有的方法都不足以应对高维设置,在高维设置中,变量的数量可能随着样本量呈指数级快速增长。我们提出了一种在高维非参数回归问题中同时进行变量选择和降维的新方法。它基本上由惩罚局部多项式回归组成,带宽矩阵经过调整,以便于变量选择、降维和以预言机收敛速度进行最优估计。与大多数现有方法不同,该方法不需要明确的带宽选择,也不需要使用交叉验证或主成分等技术进行额外的尺寸确定步骤。通过仿真和实际数据示例说明了该方法的经验性能。

MSC公司:

62-08 统计学相关问题的计算方法
62G08号 非参数回归和分位数回归
62甲12 多元分析中的估计
6220国集团 非参数推理的渐近性质
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Allen,GI,《通过加权核和正则化自动选择特征》,J.Compute。图表。统计,22284-299(2013)·doi:10.1080/10618600.2012.681213
[2] 陈,X。;邹,C。;Cook,RD,坐标相关稀疏充分降维和变量选择,《Ann.Stat.》,38,3696-3723(2010)·Zbl 1204.62107号 ·doi:10.1214/10-AOS826
[3] 陈,J。;张,C。;科索罗克,MR;Liu,Y.,带自动变量选择和数据提取的双稀疏核学习,Stat.Interface,11,401-420(2018)·Zbl 06938708号 ·doi:10.4310/SII.2018.v11.n3.a1
[4] 康涅狄格州。;Li,G.,高维非参数回归Nadaraya-Watson核估计的预言性质,Scand。J.Stat.,46,735-764(2019)·Zbl 1435.62142号 ·doi:10.1111/jos.12370
[5] 库克,RD;Li,B.,回归中条件均值的降维,《Ann.Stat.》,30,455-474(2002)·Zbl 1012.62035号 ·doi:10.1214/aos/1021379861
[6] 库克,RD;Weisberg,S.,《关于“用于降维的分层逆回归”的评论》,《美国统计协会期刊》,第86期,第328-332页(1991年)·Zbl 1353.62037号
[7] 范,J。;Gijbels,I.,《局部多项式建模及其应用》(1996),伦敦:查普曼和霍尔出版社,伦敦·Zbl 0873.62037号
[8] 佐丹奴,F。;拉希里,SN;Parrella,ML,GRID:高维非参数回归的变量选择和结构发现方法,《统计年鉴》,48,1848-1874(2020)·Zbl 1454.62125号 ·doi:10.1214/19-AOS1846
[9] 江,R。;钱,WM;周,ZG,具有异方差和一般误差分布的单指数复合分位数回归,Stat.Pap。,57, 185-203 (2016) ·Zbl 1370.62023号 ·doi:10.1007/s00362-014-0646-y
[10] 拉弗蒂,J。;Wasserman,L.,《竞技:稀疏、贪婪的非参数回归》,《Ann.Stat.》,36,28-63(2008)·Zbl 1132.62026号 ·doi:10.1214/009053607000000811
[11] Li,KC,用于降维的切片逆回归,美国统计协会,86,316-327(1991)·Zbl 0742.62044号 ·数字对象标识代码:10.1080/01621459.1991.10475035
[12] Li,KC,《关于数据可视化和降维的主要Hessian方向:Stein引理的另一个应用》,美国统计协会,87,1025-1039(1992)·Zbl 0765.62003年 ·doi:10.1080/01621459.1992.10476258
[13] Li,L.,稀疏充分降维,Biometrika,94,603-613(2007)·Zbl 1135.62062号 ·doi:10.1093/biomet/asm044
[14] 李,B。;Dong,Y.,非椭圆分布预测因子的降维,Ann.Stat.,37,1272-1298(2009)·Zbl 1160.62050 ·doi:10.1214/08-AOS598
[15] 李,L。;库克,RD;Nachtsheim,CJ,无模型变量选择,J.R.Stat.Soc.Ser。B、 67285-299(2005年)·Zbl 1069.62053号 ·doi:10.1111/j.1467-9868.2005020.x
[16] Rekabdarkolaee,HM;Wang,Q.,通过自适应MAVE进行变量选择,Stat.Probab。莱特。,128, 44-51 (2017) ·Zbl 1457.62079号 ·doi:10.1016/j.spl.2017.04.012
[17] 范德法特,AW;JA Wellner,《弱收敛与经验过程》(1996),纽约:Springer出版社,纽约·Zbl 0862.60002号 ·doi:10.1007/978-1-4757-2545-2
[18] 王,Q。;Yin,X.,高维数据的非线性多维变量选择方法:稀疏MAVE,计算。统计数据分析。,52, 4512-4520 (2008) ·Zbl 1452.62136号 ·doi:10.1016/j.csda.2008.03.003
[19] Wang,T。;徐,P。;Zhu,L.,惩罚最小平均方差估计,统计正弦。,23, 543-569 (2013) ·Zbl 1379.62049号
[20] 白色,KR;Stefanski,洛杉矶;Wu,Y.,使用测量误差选择可能性的核回归变量选择,美国统计协会,1121587-1597(2017)·doi:10.1080/01621459.2016.122287
[21] Wu,W。;Hilafu,H。;薛毅,半参数多指标模型的同时估计,《统计计算杂志》。同时。,89, 2354-2372 (2019) ·Zbl 07193842号 ·doi:10.1080/00949655.2019.1617291
[22] Xia,Y.,单指数模型两个估计量的渐近分布,计量经济学理论,221112-1137(2006)·Zbl 1170.62323号 ·doi:10.1017/S0266466606060531
[23] 夏,Y。;Tong,H。;李,WK;朱,LX,降维空间的自适应估计,J.R.Stat.Soc.Ser。B、 64、363-410(2002)·Zbl 1091.62028号 ·doi:10.1111/1467-9868.03411
[24] Yu,P。;杜,J。;Zhang,Z.,单因次部分函数线性回归模型,Stat.Pap。,61, 1107-1123 (2020) ·Zbl 1443.62541号 ·doi:10.1007/s00362-018-0980-6
[25] Zhang,J.,部分线性单指标畸变测量误差模型的估计和变量选择,Stat.Pap。,62, 887-913 (2021) ·Zbl 1477.62105号 ·doi:10.1007/s00362-019-01119-6
[26] 赵伟。;张,F。;李,R。;Lian,H.,分位数回归降维的主要单指标变系数模型,J.Stat.Comput。同时。,90, 800-818 (2020) ·Zbl 07194314号 ·doi:10.1080/00949655.2019.1707831
[27] 赵伟。;李,R。;Lian,H.,带降维的高维分位数变系数模型,Metrika,85,1-19(2022)·Zbl 07472638号 ·doi:10.1007/s00184-021-00814-5
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。