×

固定支持通过线性收缩对协方差矩阵估值器进行正定修改。 (英语) Zbl 1417.62141号

摘要:本文研究协方差矩阵估计中的正定性问题。对于高维数据,许多正则化估计都是在真协方差矩阵的结构假设下提出的,包括稀疏性。结果表明,它们在估计真协方差矩阵及其结构时具有渐近一致性和速率最优性。然而,他们中的许多人没有考虑估计器的偏微分,因此产生了非偏微分估计。为了实现偏微分,研究人员考虑了特征值的额外正则化(或约束),这使得渐近分析和计算都更加困难。在本文中,我们对正则化协方差矩阵估计量进行了一个简单的修改,使其在保持支持度的同时具有PD特性。我们重新审视了线性收缩的概念,并建议在第一阶段估计量(无偏微分的正则化协方差矩阵)和给定形式的对角矩阵之间进行凸组合,如果仔细选择收缩参数,则表明保持了第一阶段估计器的渐近性质。它有一个封闭形式的表达式,其计算是无优化的,与现有的PD稀疏估计不同。此外,FSPD是通用的,因为它可以应用于任何非PD矩阵,包括精度矩阵。将FSPD估计与其他稀疏PD估计进行数值比较,以了解其有限样本性质及其计算增益。它还应用于两个依赖协方差矩阵估计的多元过程——线性极小极大分类问题和Markowitz投资组合优化问题——并显示出显著改善了这两个过程的性能。

MSC公司:

62甲12 多元分析中的估计
2012年12月62日 参数估计量的渐近性质
62H30型 分类和区分;聚类分析(统计方面)
62第20页 统计学在经济学中的应用
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 比克尔,P.J。;Levina,E.,通过阈值进行协方差正则化,Ann.Statist。,36,2577-2604(2008),网址http://projecteuclid.org/euclid.aos/1231165180。 http://dx.doi.org/10.1214/08-AOS600 ·Zbl 1196.62062号
[2] 比克尔,P.J。;李维娜,E.,大协方差矩阵的正则化估计,Ann.Statist。,36、199-227(2008),网址http://projecteuclid.org/euclid.aos/201877299。 http://dx.doi.org/10.1214/009053607000000758 ·Zbl 1132.62040号
[3] 比恩,J。;Tibshirani,R.J.,协方差矩阵的稀疏估计,Biometrika,98007-820(2011)·Zbl 1228.62063号
[4] 博伊德,S。;北卡罗来纳州帕里赫。;朱,E。;佩莱托,B。;Eckstein,J.,《通过交替方向乘数法进行分布式优化和统计学习》,Found。趋势马赫数。学习。,3,1-122(2010),网址https://ieeexplore.ieee.org/xpl/articleDetails.jsp?arnumber=8186925。 http://dx.doi.org/10.1561/220000016 ·Zbl 1229.90122号
[5] 蔡,T。;Liu,W.,稀疏协方差矩阵估计的自适应阈值,J.Amer。统计协会,106,672-684(2011)·兹比尔1232.62086
[6] 蔡,T。;刘伟。;Luo,X.,稀疏精度矩阵估计的约束11最小化方法,J.Amer。美国统计协会,106,594-607(2011),http://dx.doi.org/10.1198/jasa.2011.tm10155。arXiv:1102.2233·Zbl 1232.62087号
[7] Cai,T.T。;Low,M.,凸函数估计的框架,Statist。Sinica,25,423-456(2015),网址http://www3.stat.sinica.edu.tw/statistica/J25N2/J25N21/J25N.21.html。 http://dx.doi.org/10.5705/ss.2013.279 ·Zbl 06503803号
[8] Cai,T.T。;任,Z。;Zhou,H.H.,估计结构化高维协方差和精度矩阵:最佳速率和自适应估计,电子。J.Stat.,10,1-59(2016),网址http://projecteuclid.org/euclid.ejs/1455715952。 http://dx.doi.org/10.1214/15-EJS1081 ·Zbl 1331.62272号
[9] Cai,T.T。;袁,M.,基于块阈值的自适应协方差矩阵估计,Ann.Statist。,402014-2042(2012),网址http://projecteuclid.org/euclid.aos/1351602535。 http://dx.doi.org/10.1214/12-AOS999 ·Zbl 1257.62060号
[10] Cai,T.T。;张,C.-H。;周海华,协方差矩阵估计的最优收敛速度,Ann.Statist。,382118-2144(2010),网址http://projecteuclid.org/euclid.aos/1278861244。 http://dx.doi.org/10.1214/09-AOS752 ·Zbl 1202.62073号
[11] Cai,T.T。;Zhou,H.H.,稀疏协方差矩阵估计的最优收敛速度,Ann.Statist。,402389-2420(2012),网址http://projecteuclid.org/euclid.aos/1359987525。 http://dx.doi.org/10.1214/12-AOS998 ·Zbl 1373.62247号
[12] Chan,L.,《投资组合优化:预测协方差和选择风险模型》,《金融研究评论》,第12期,第937-974页(1999年)
[13] Demmel,J.W.,《应用数值线性代数》(1997),SIAM:SIAM Philadelphia,PA·Zbl 0879.65017号
[14] 范,J。;Liao,Y。;Mincheva,M.,通过阈值化主正交补码进行大协方差估计,J.R.Stat.Soc.Series B Stat.Methodol。,75603-680(2013)·Zbl 1411.62138号
[15] 弗里德曼,J。;哈斯蒂,T。;Tibshirani,R.,用图形套索进行稀疏逆协方差估计,生物统计学,9432-441(2008),URLhttps://academic.oup.com/biostatistics/article/9/3/432/24260。 http://dx.doi.org/10.1093/biostatistics/kxm045 ·兹比尔1143.62076
[16] 弗里德曼,J。;哈斯蒂,T。;Tibshirani,R.,套索和分组套索在稀疏图形模型估计中的应用(2010),斯坦福大学:斯坦福大学,加利福尼亚州斯坦福,URL statweb.Stanford.edu/tibs/ftp/ggraph.pdf
[17] Golub,G.H。;Van Loan,C.F.,《矩阵计算》(2012),约翰霍普金斯大学出版社:约翰霍普金大学出版社,马里兰州巴尔的摩
[18] Golub,G.H。;Ye,Q.,对称广义特征值问题的无逆预处理Krylov子空间方法,SIAM J.Sci。计算。,24、312-334(2002),网址https://doi.org/10.1137/S1064827500382579。 http://dx.doi.org/10.1137/S1064827500382579 ·Zbl 1016.65017号
[19] Jagannathan,R。;Ma,T.,《大型投资组合中的风险降低:为什么施加错误的约束会有所帮助》,J.Finance,581651-1683(2003)
[20] Khare,K。;哦,S.-Y。;Rajaratnam,B.,具有收敛保证的高维偏相关估计的凸伪似然框架,J.R.Stat.Soc.Series B Stat.Methodol。,77, 803-825 (2015), http://dx.doi.org/10.1111/rsb.12088。arXiv公司:1307.5381·Zbl 1414.62183号
[21] Kwon,Y。;Choi,Y.-G。;帕克,T。;齐格勒,A。;Paik,M.C.,具有稳定工作相关结构的广义估计方程,计算。统计师。数据分析。,106, 1-11 (2017) ·Zbl 1466.62124号
[22] Lam,C。;Fan,J.,大协方差矩阵估计中的稀疏性和收敛速度,Ann.Statist。,37、4254-4278(2009),网址https://projecteuclid.org/euclid.aos/1256303543。 http://dx.doi.org/10.1214/09-AOS720 ·Zbl 1191.62101号
[23] 兰克里特,G.R。;El Ghaoui,L。;巴塔查里亚,C。;Jordan,M.I.,《稳健的最小极大分类法》,J.Mach。学习研究,3,555-582(2002),URLhttp://www.jmlr.org/papers/volume3/lanckriet02a/lanckriet 02a.pdf。 http://dx.doi.org/10.1162/153244303321897726 ·Zbl 1084.68657号
[24] O.莱多特。;Wolf,M.,《大维协方差矩阵的良好估计》,《多元分析杂志》。,88, 365-411 (2004) ·Zbl 1032.62050
[25] Lehoucq,R.B。;Sorensen,D.C.,隐式重启阿诺尔迪迭代的通缩技术,SIAM J.矩阵分析。申请。,17, 789-821 (1996) ·Zbl 0863.65016号
[26] 利特尔,M。;McSharry,P。;亨特,E。;斯皮尔曼,J。;Ramig,L.,言语障碍测量对帕金森病远程监测的适用性,IEEE Trans。生物识别。工程师,56,1015-1022(2009),网址http://ieeexplore.ieee.org/document/4636708/。 http://dx.doi.org/10.109/TBME.2008.2005954
[27] 刘,H。;Wang,L。;赵,T.,特征值约束下的稀疏协方差矩阵估计,J.Compute。图表。统计,23,439-459(2014)
[28] Marcenko,V.A。;Pastur,L.A.,一些随机矩阵集的特征值分布,数学。苏联斯博尼克,1457-483(1967)·Zbl 0162.22501号
[29] 马祖姆德,R。;Hastie,T.,《图形套索:新见解和替代品》,电子。J.Stat.,62125-2149(2012),网址https://projecteuclid.org/euclid.ejs/1352470831。 http://dx.doi.org/10.1214/12-EJS740。arXiv:11111.5479·兹比尔1295.62066
[30] 明绍森,N。;Bühlmann,P.,《高维图与拉索变量选择》,Ann.Statist。,34,1436-1462(2006),网址http://projecteuclid.org/euclid.aos/1152540754。 http://dx.doi.org/10.1214/009053606000000281。arXiv:0608017·Zbl 1113.62082号
[31] 彭杰。;王,P。;周,N。;朱,J.,联合稀疏回归模型的偏相关估计,J.Amer。统计协会,104,735-746(2009)·Zbl 1388.62046号
[32] Rothman,A.J.,大协方差矩阵的正定估计量,Biometrika,99733-740(2012),网址https://academic.oup.com/biomet/article-abstract/99/3/733/359725。 http://dx.doi.org/10.1093/biomet/ass025 ·Zbl 1437.62595号
[33] Rothman,A.J。;莱维纳,E。;朱,J.,大协方差矩阵的广义阈值,J.Amer。统计协会,104,177-186(2009)·兹比尔1388.62170
[34] Sorensen,D.C.,《多项式滤波器在k步Arnoldi方法中的隐含应用》,SIAM J.矩阵分析。申请。,13, 357-385 (1990) ·Zbl 0763.65025号
[35] 孙,Y。;托多罗维奇,S。;Goodison,S.,高维数据分析中基于局部学习的特征选择,IEEE Trans。图案。分析。机器。智力。,32, 1610-1626 (2010)
[36] Tsanas,A。;a.利特尔,M。;福克斯,C。;Ramig,L.O.,帕金森病康复言语治疗的客观自动评估,IEEE Trans。神经系统。系统。Rehabil.Eng.,22,181-190(2014),网址http://ieeexplore.ieee.org/xpl/articleDetails.jsp?arnumber=6678640。 http://dx.doi.org/10.109/TNSRE.2013.2293575
[37] Witten,D.M。;弗里德曼,J.H。;Simon,N.,《图形套索的新见解和更快的计算》,J.Compute。图表。统计,20892-900(2011)
[38] J.-H.Won。;Lim,J。;Kim,S.-J。;Rajaratnam,B.,条件数正则化协方差估计,J.R.Stat.Soc.系列B Stat.Methodol。,75, 427-450 (2013) ·Zbl 1411.62146号
[39] 薛,L。;马,S。;Zou,H.,大协方差矩阵的正定11惩罚估计,J.Amer。统计协会,107,1480-1491(2012)·Zbl 1258.62063号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。