×

通过阈值进行协方差正则化。 (英语) Zbl 1196.62062号

摘要:本文考虑用硬阈值法正则化由观测值估计的变量协方差矩阵。我们证明,只要真协方差矩阵在适当的意义上是稀疏的,变量是高斯或次高斯的,以及(log p)/n右箭头0),则阈值估计在算子范数中是一致的,并获得显式速率。结果在满足稀疏性这一相当自然的概念的协方差矩阵族上是一致的。我们讨论了一种用于阈值选择的直观重采样方案,并证明了该方法的通用交叉验证结果。我们还将阈值法与模拟中的其他协方差估计量以及气候数据的示例进行了比较。

理学硕士:

62甲12 多元分析中的估计
2012年12月62日 参数估计量的渐近性质
62F40型 引导、折刀和其他重采样方法
65C60个 统计中的计算问题(MSC2010)
62页第12页 统计在环境和相关主题中的应用
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Abramovich,F.、Benjamini,Y.、Donoho,D.和Johnstone,I.(2006)。通过控制错误发现率来适应未知稀疏性。安。统计师。34 584-653. ·Zbl 1092.62005年 ·doi:10.1214/00905360000000074
[2] Bickel,P.J.和Levina,E.(2004年)。Fisher线性判别函数的一些理论,“朴素贝叶斯”,以及当变量比观测值多时的一些替代方法。伯努利10 989-1010·Zbl 1064.62073号 ·doi:10.3150/bj/1106314847
[3] Bickel,P.J.和Levina,E.(2008)。大协方差矩阵的正则化估计。安。统计师。36 199-227. ·Zbl 1132.62040号 ·doi:10.1214/009053607000000758
[4] Bickel,P.J.、Ritov,Y.和Zakai,A.(2006年)。广义boosting算法的一些理论。J.马赫。学习。第7 705-732号决议·Zbl 1222.68148号
[5] d'Aspremont,A.、Banerjee,O.和El Ghaoui,L.(2007年)。稀疏协方差选择的一阶方法。SIAM J.矩阵分析。申请。30 56-66. ·Zbl 1156.90423号 ·数字对象标识代码:10.1137/060670985
[6] d'Aspremont,A.、El Ghaoui,L.、Jordan,M.I.和Lanckriet,G.R.G.(2007)。使用半定规划的稀疏PCA的直接公式。SIAM版本49 434-448·邮编1128.90050 ·doi:10.1137/050645506
[7] Dey,D.K.和Srinivasan,C.(1985年)。斯坦因损失下协方差矩阵的估计。安。统计师。13 1581-1591. ·Zbl 0582.62042号 ·doi:10.1214/aos/1176349756
[8] Donoho,D.L.和Johnstone,I.M.(1994年)。通过小波收缩实现理想的空间自适应。生物特征81 425-455。JSTOR公司:·兹比尔0815.62019 ·doi:10.1093/biomet/81.3.425
[9] Dudoit,S.和van der Laan,M.J.(2005)。估计器选择和性能评估中交叉验证风险估计的渐近性。统计师。Methodol公司。2 131-154. ·Zbl 1248.62004号 ·doi:10.1016/j.stamet.2005.02.003
[10] El Karoui,N.(2007a)。大维稀疏协方差矩阵的算子范数一致估计。安。统计师·Zbl 1196.62064号 ·doi:10.1214/07-AOS559
[11] El Karoui,N.(2007b)。基于随机矩阵理论的大维协方差矩阵谱估计。Ann.Statist公司·Zbl 1168.62052号 ·doi:10.1214/07-AOS581
[12] El Karoui,N.(2007c)。一大类复样本协方差矩阵最大特征值的Tracy-Widom极限。安·普罗巴伯。35 663-714. ·Zbl 1117.60020号 ·doi:10.1214/00911790600000917
[13] Fan,J.、Fan,Y.和Lv,J.(2008)。使用因子模型的高维协方差矩阵估计。《计量经济学杂志》·Zbl 1429.62185号 ·doi:10.1016/j.jeconom.2008.09.017
[14] Fan,J.、Feng,Y.和Wu,Y.(2007)。通过自适应LASSO和SCAD惩罚进行网络探索。未发表的手稿·Zbl 1166.62040号
[15] Fan,J.和Li,R.(2001)。通过非冲突惩罚似然及其oracle属性进行变量选择。J.Amer。统计师。协会96 1348-1360。JSTOR公司:·Zbl 1073.62547号 ·doi:10.1198/016214501753382273
[16] Friedman,J.、Hastie,T.和Tibshirani,R.(2008)。用图形套索进行稀疏逆协方差估计。生物统计学9 432-441·Zbl 1143.62076号 ·doi:10.1093/生物统计学/kxm045
[17] Furrer,R.和Bengtsson,T.(2007年)。卡尔曼滤波器变量中高维先验和后验协方差矩阵的估计。《多元分析杂志》。98 227-255. ·Zbl 1105.62091号 ·doi:10.1016/j.jmva.2006.08.003
[18] Golub,G.H.和Van Loan,C.F.(1989年)。矩阵计算,第二版,约翰霍普金斯大学出版社,马里兰州巴尔的摩·Zbl 0733.65016号
[19] Gyorfi,L.、Kohler,M.、Krzyzak,A.和Walk,H.(2002年)。非参数回归的无分布理论。纽约州施普林格。
[20] Haff,L.R.(1980)。多元正态协方差矩阵的经验贝叶斯估计。8 586-597. ·兹比尔0441.62045 ·doi:10.1214/aos/1176345010
[21] Huang,J.、Liu,N.、Pourahmadi,M.和Liu,L.(2006)。通过惩罚正态似然选择协方差矩阵和估计。生物特征93 85-98·Zbl 1152.62346号 ·doi:10.1093/biomet/93.1.85
[22] Johnstone,I.和Silverman,B.(2005)。小波阈值的经验贝叶斯选择。安。统计师。33 1700-1752. ·Zbl 1078.62005号 ·doi:10.1214/009053605000000345
[23] Johnstone,I.M.(2001)。关于主成分分析中最大特征值的分布。安。统计师。29 295-327. ·Zbl 1016.62078号 ·doi:10.1214/aos/1009210544
[24] Johnstone,I.M.和Lu,A.Y.(2004)。稀疏主成分分析。未发表的手稿。
[25] Lam,C.和Fan,J.(2007年)。大协方差矩阵估计中的稀疏性和收敛速度。手稿·Zbl 1191.62101号
[26] Ledoit,O.和Wolf,M.(2003年)。大维协方差矩阵的条件良好估计。《多元分析杂志》。88 365-411. ·Zbl 1032.62050 ·doi:10.1016/S0047-259X(03)00096-4
[27] Ledoux,M.(2001)。测量集中现象。阿默尔。数学。佛罗里达州普罗维登斯Soc·Zbl 0995.60002号
[28] Levina,E.、Rothman,A.J.和Zhu,J.(2008年)。通过嵌套Lasso惩罚对大协方差矩阵进行稀疏估计。附录申请。统计师。2 245-263. ·Zbl 1137.62338号 ·doi:10.1214/07-AOAS139
[29] Marčenko,V.A.和Pastur,L.A.(1967年)。一些随机矩阵集的特征值分布。数学。苏联Sb 1 507-536·Zbl 0162.22501号 ·doi:10.1070/SM1967v001n04ABEH001994
[30] Paul,D.(2007年)。尖峰协方差模型的领先样本特征值的渐近性。统计师。Sinica 17 1617-1642年·Zbl 1134.62029号
[31] Rothman,A.J.、Bickel,P.J.、Levina,E.和Zhu,J.(2008)。稀疏置换不变协方差估计。电子。《美国联邦法律大全》第2卷第494-515页·Zbl 1320.62135号 ·doi:10.1214/08-EJS176
[32] Saulis,L.和Statulevičius,V.A.(1991年)。大偏差极限定理。多德雷赫特·克鲁沃·Zbl 0744.60028号
[33] van der Vaart,A.W.和Wellner,J.A.(1996)。弱收敛与经验过程:统计应用。纽约州施普林格·Zbl 0862.60002号
[34] Wu,W.B.和Pourahmadi,M.(2003)。纵向数据大协方差矩阵的非参数估计。生物特征90 831-844·Zbl 1436.62347号 ·doi:10.1093/biomet/90.4.831
[35] Yuan,M.和Lin,Y.(2007)。高斯图形模型中的模型选择和估计。生物特征94 19-35·Zbl 1142.62408号 ·doi:10.1093/biomet/asm018
[36] Zou,H.、Hastie,T.和Tibshirani,R.(2006)。稀疏主成分分析。J.计算。图表。统计师。15 265-286. ·doi:10.1198/106186006X113430
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。