×

无兼容性推理:使用指数加权对线性模型的参数进行推理。 (英语) Zbl 1473.62251号

作者考虑了一个具有(n)维(Y)和(q)维(β)的部分线性模型。假设参数\(\beta\)是低维的,\(q<n\),但随机干扰\(\mu\)用\(p\)维稀疏向量\(\gamma\)建模,其中\(p~)是高维的,\(p>n\)。作者的目的是推断(β)、信号强度和噪声方差。由于拉索(最小绝对收缩和选择操作符)是该过程的基础,因此必须进行某些假设以确保良好的性能。尤其是所谓的兼容性条件似乎是必不可少的。本文的主要贡献是证明了相容条件对于统计问题是不必要的。作者能够构造\(\beta\)、\(\sigma^2_\mu\)和\(\sigma^2_\epsilon\)的\(\sqrtn\)-一致估计量。他们的方法包括使用指数加权对特定规模的所有模型进行聚合。这是一个计算困难的问题,但可以很好地近似。为此,作者提出了一种算法和仿真结果,可以与其他估值器进行比较。

MSC公司:

62J07型 岭回归;收缩估计器(拉索)
62G05型 非参数估计
62-08 统计问题的计算方法
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Bellec,P.C.(2018年)。lasso和其他凸估计的噪声屏障和大信号偏差。arXiv预打印arXiv:1804.01230。
[2] Bickel,P.J.、Klaassen,C.A.J.、Ritov,Y.和Wellner,J.A.(1993年)。半参数模型的有效自适应估计.约翰·霍普金斯数理科学系列马里兰州巴尔的摩:约翰·霍普金斯大学出版社·Zbl 0786.62001号
[3] Bradic,J.、Claeskens,G.和Gueuning,T.(2020年)。高维线性混合模型中的固定效应测试。J.Amer。统计师。协会。1-16. ·Zbl 1452.62491号
[4] Bühlmann,P.和van de Geer,S.(2011)。高维数据统计:方法、理论和应用.统计学中的斯普林格系列海德堡:施普林格·Zbl 1273.62015年 ·doi:10.1007/978-3-642-20192-9
[5] Cai,T.T.和Guo,Z.(2020年)。高维线性回归中解释方差的半监督推断及其应用。J.R.统计社会服务。B.统计方法。82 391-419. ·Zbl 07554759号
[6] Chernozhukov,V.、Chetverikov,D.、Demirer,M.、Duflo,E.、Hansen,C.、Newey,W.和Robins,J.(2018年)。用于治疗和结构参数的双/脱苦机器学习。经济学。J。21 C1-C68·兹伯利07565928 ·doi:10.1111/ectj.12097
[7] Dezeure,R.、Bühlmann,P.、Meier,L.和Meinshausen,N.(2015)。高维推断:置信区间、(p\)-值和R软件hdi。统计师。科学。30 533-558·Zbl 1426.62183号 ·doi:10.1214/15-STS527
[8] Dicker,L.H.(2014)。高维线性模型中的方差估计。生物计量学101 269-284. ·兹比尔1452.62495 ·doi:10.1093/biomet/ast065
[9] Fan,J.、Guo,S.和Hao,N.(2012)。超高维回归中使用改装交叉验证的方差估计。J.R.统计社会服务。B.统计方法。74 37-65. ·Zbl 1411.62199号 ·doi:10.1111/j.1467-9868.2011.01005.x
[10] Fan,J.和Lv,J.(2008)。确保超高维特征空间的独立筛选。J.R.统计社会服务。B.统计方法。70 849-911. ·Zbl 1411.62187号 ·doi:10.1111/j.1467-9868.2008.00674.x
[11] Godsil,C.和Royle,G.(2001年)。代数图论.数学研究生文本207.纽约:斯普林格·Zbl 0968.05002号 ·doi:10.1007/978-1-4613-0163-9
[12] Grünwald,P.和van Ommen,T.(2017)。针对指定错误线性模型的贝叶斯推理的不一致性,以及修复该不一致性的建议。贝叶斯分析。12 1069-1103. ·Zbl 1384.62088号 ·doi:10.1214/17-BA1085
[13] Hsu,D.、Kakade,S.M.和Zhang,T.(2012)。二次型次高斯随机向量的尾部不等式。电子。Commun公司。普罗巴伯。17编号52,6·Zbl 1309.60017号 ·doi:10.1214/ECP.v17-2079
[14] Janson,L.、Barber,R.F.和Candès,E.(2017年)。特征棱镜:高维信噪比的推断。J.R.统计社会服务。B.统计方法。79 1037-1065. ·兹比尔1373.62355 ·doi:10.1111/rssb.12203
[15] Javanmard,A.和Montanari,A.(2014)。高维回归的置信区间和假设检验。J.马赫。学习。物件。15 2869-2909. ·Zbl 1319.62145号
[16] Javanmard,A.和Montanari,A.(2018)。摆脱套索:高斯设计的最佳样本量。Ann.Statist公司。46 2593-2622. ·Zbl 1407.62270号 ·doi:10.1214/17-AOS1630
[17] Law,M.和Ritov,Y.(2021)。对“无兼容性推理:使用指数加权对线性模型的参数进行推理”的补充·doi:10.3150/20-BEJ1280SUPP文件
[18] Lee,J.D.、Sun,D.L.、Sun,Y.和Taylor,J.E.(2016)。精确的后选择推理,并应用于套索。Ann.Statist公司。44 907-927. ·Zbl 1341.62061号 ·doi:10.1214/15-AOS1371
[19] Leung,G.和Barron,A.R.(2006年)。信息理论和混合最小二乘回归。IEEE传输。Inf.理论52 3396-3410. ·Zbl 1309.94051号 ·doi:10.1109/TIT.2006.878172
[20] Li,S.、Cai,T.T.和Li,H.(2019)。高维线性混合效应模型的推断:拟似然方法。arXiv预打印arXiv:1907.06116。
[21] Raskutti,G.、Wainwright,M.J.和Yu,B.(2010年)。相关高斯设计的受限特征值特性。J.马赫。学习。物件。11 2241-2259. ·Zbl 1242.62071号
[22] Reid,S.、Tibshirani,R.和Friedman,J.(2016)。拉索回归中误差方差估计的研究。统计师。西尼卡26 35-67. ·Zbl 1372.62023号
[23] Rigollet,P.和Tsybakov,A.(2011)。指数筛选和稀疏估计的最佳速率。Ann.Statist公司。39 731-771. ·Zbl 1215.62043号 ·doi:10.1214/10-AOS854
[24] Sun,T.和Zhang,C.-H(2012)。缩放稀疏线性回归。生物计量学99 879-898. ·Zbl 1452.62515号 ·doi:10.1093/biomet/ass043
[25] Tibshirani,R.(1996)。通过套索回归收缩和选择。J.罗伊。统计师。Soc.序列号。B类58 267-288之间·Zbl 0850.62538号 ·doi:10.1111/j.2517-6161.1996.tb02080.x
[26] van de Geer,S.A.和Bühlmann,P.(2009)。根据用于证明拉索预言结果的条件。电子。J.统计。3 1360-1392. ·Zbl 1327.62425号 ·doi:10.1214/09-EJS506
[27] van de Geer,S.、Bühlmann,P.、Ritov,Y.和Dezeure,R.(2014)。关于高维模型的渐近最优置信域和检验。Ann.Statist公司。42 1166-1202. ·Zbl 1305.62259号 ·doi:10.1214/14-AOS1221
[28] Zhang,X.和Cheng,G.(2017)。高维线性模型的同时推理。J.Amer。统计师。协会。112 757-768. ·doi:10.1080/01621459.2016.1166114
[29] Zhang,Y.,Wainwright,M.J.和Jordan,M.I.(2014)。稀疏线性回归多项式时间算法性能的下限。学习理论会议921-948.
[30] Zhang,C.-H.和Zhang的S.S.(2014)。高维线性模型中低维参数的置信区间。J.R.统计社会服务。B.统计方法。76 217-242 ·Zbl 1411.62196号 ·doi:10.1111/rssb.12026文件
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。