×

压缩协方差估计与自动维数学习。 (英语) Zbl 1437.62288号

摘要:我们提出了一种估计协方差矩阵的方法,该协方差矩阵可以表示为低秩矩阵和对角矩阵的和。该方法压缩高维数据,计算压缩空间中的样本协方差,并通过解压缩操作将其提升回环境空间。相对于在协方差矩阵估计中结合稀疏性和低秩结构的现有文献,我们的方法的一个显著特点是我们不要求低秩分量稀疏。证明了使用Stein的无偏风险估计理论估计压缩维度的原则框架。实验仿真结果证明了该方法的有效性和可扩展性。

MSC公司:

62J10型 方差和协方差分析(ANOVA)
62甲12 多元分析中的估计

软件:

项目管理局
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Anderson,T.,《多元统计分析》(1984),纽约:威利出版社,纽约·Zbl 0651.62041号
[2] Bahmani,S.和Romberg,J.(2015)。同时绘制稀疏和低秩协方差矩阵。2015年IEEE第六届多传感器自适应处理(CAMSAP)计算进展国际研讨会。IEEE,第357-360页。
[3] Bai,J。;施,S,,估计高维协方差矩阵及其应用,《经济学年鉴》。财务。,12, 199-215 (2011)
[4] 巴苏,S。;Michaelidis,G,稀疏高维时间序列模型中的正则化估计,Ann.Stat.,431535-1567(2015)·Zbl 1317.62067号
[5] Bhattacharya,A。;Dunson,Db,稀疏贝叶斯无限因子模型,Biometrika,98,291(2011)·Zbl 1215.62025号
[6] 彼得·比克尔(Peter J.Bickel)。;Levina,Elizaveta,通过阈值进行协方差正则化,《统计年鉴》,36,6,2577-2604(2008)·Zbl 1196.62062号
[7] 彼得·比克尔(Peter J.Bickel)。;Levina,Elizaveta,大型协方差矩阵的正则化估计,《统计年鉴》,36,1,199-227(2008)·Zbl 1132.62040号
[8] Bioucas-Dias,J.M.、Cohen,D.和Eldar,Y.C.(2014)。Covalsa:使用交替最小化从压缩测量值进行协方差估计。2014年第22届欧洲信号处理会议(EUSIPCO)论文集。IEEE,第999-1003页。
[9] 布尼亚,F。;Xiao,L.,关于降阶有效秩总体矩阵的样本协方差矩阵估计及其在fpca中的应用,Bernoulli,21,1200-1230(2015)·Zbl 1388.62173号
[10] 亚吉·巴特;Tamayo,P。;斯隆,D。;Golub,Tr;Kohane,Is,使用相关性网络发现rna表达和化疗易感性之间的功能关系,Proc。国家。阿卡德。科学。,97, 12182-12186 (2000)
[11] 蔡,T。;Liu,W.,稀疏协方差矩阵估计的自适应阈值,美国统计协会,106,672-684(2011)·兹比尔1232.62086
[12] 蔡,Tt;马,Z。;Wu,Y,,《稀疏主成分分析:最优速率和自适应估计》,《Ann.Stat.》,第41期,第3074-3110页(2013年)·Zbl 1288.62099号
[13] 蔡,T。;马,Z。;Wu,Y.,稀疏峰值协方差矩阵的最优估计和秩检测,Probab。理论相关领域,161,781-815(2015)·Zbl 1314.62130号
[14] 蔡,Tt;任,Z。;Zhou,Hh,,估计结构化高维协方差和精度矩阵:最佳速率和自适应估计,电子。J.统计。,10, 1-59 (2016) ·Zbl 1331.62272号
[15] 陈,X。;徐,M。;Wu,Wb,,高维时间序列的协方差和精度矩阵估计,Ann.Stat.,41,2994-3021(2013)·Zbl 1294.62123号
[16] 陈,Y。;Chi,Y。;Goldsmith,Aj,通过凸规划从二次抽样中进行精确和稳定的协方差估计,IEEE Trans。《信息论》,614034-4059(2015)·Zbl 1359.62181号
[17] Dasarathy,G。;沙阿·P。;Bn,Bhaskar;Nowak,Rd,通过张量积绘制稀疏矩阵、协方差和图,IEEE Trans。信息理论,611373-1388(2015)·兹比尔1359.94079
[18] D'Aspremont,A。;O.班纳吉。;El Ghaoui,L.,稀疏协方差选择的一阶方法,SIAM J.矩阵分析。申请。,30, 56-66 (2008) ·Zbl 1156.90423号
[19] Ma Davenport;Romberg,J.,《从不完全观测中恢复低秩矩阵的概述》,IEEE J.信号处理精选主题。,10, 608-622 (2016)
[20] Efron,B.,预测规则的表观错误率有多大偏差?,J.Am.Stat.Assoc.,81,461-470(1986)·Zbl 0621.62073号
[21] Efron,B.,《预测误差的估计》,《美国统计协会期刊》,99,467(2004)·Zbl 1117.62324号
[22] 恩格尔,R。;Watson,M.,《大都市工资率的单因素多元时间序列模型》,美国统计协会,76774-781(1981)
[23] 范,J。;Liao,Y。;Mincheva,M.,通过阈值化主正交补码进行大协方差估计,J.R.Statist。Soc.系列B(统计方法),75,603-680(2013)·Zbl 1411.62138号
[24] 范,J。;Liao,Y。;Liu,H.,大协方差和精度矩阵估计综述,经济学。J.,19,C1-C32(2016)·Zbl 1521.62083号
[25] 范,J。;范,Y。;Lv,J.,使用因子模型进行高维协方差矩阵估计,J.Econ。,147, 186-197 (2008) ·Zbl 1429.62185号
[26] 富勒,R。;Bengtsson,T.,卡尔曼滤波器变体中高维先验和后验协方差矩阵的估计,J.Multivar。分析。,98, 227-255 (2007) ·兹比尔1105.62091
[27] 富勒,R。;Genton,镁;Nychka,D.,《用于大型空间数据集插值的协方差锥化》,J.Compute。图表。统计,15,502-523(2006)
[28] Goldfarb,D。;Iyengar,G.,稳健投资组合选择问题,数学。操作。决议,28,1-38(2003)·Zbl 1082.90082
[29] Guhaniyogi,R.和Dunson,D.B.(2013年)。贝叶斯压缩回归。arXiv:http://arXiv.org/abs/1303.0642。 ·Zbl 1373.62100号
[30] Hamill,Tm;惠特克,Js;Snyder,C.,集合卡尔曼滤波器中背景误差协方差估计的距离相关滤波,Mon。天气。版本1292776-2790(2001)
[31] Hoff,Pd,用于合并协方差估计的分层本征模型,J.R.Statist。Soc.系列B(统计方法),71971-992(2009)·Zbl 1411.62157号
[32] Houtekamer,Pl;Mitchell,Hl,大气数据同化的序贯集合卡尔曼滤波器,Mon。天气。版本129123-137(2001)
[33] 黄建华Z。;刘乃平;Pourahmadi,Mohsen;刘林旭,基于惩罚正态似然的协方差矩阵选择与估计,生物特征,93,1,85-98(2006)·Zbl 1152.62346号
[34] Ideker,T。;Sharan,R.,疾病中的蛋白质网络,基因组研究,18644-652(2008)
[35] Jimenez-Sanchez,G。;Childs,B。;Valle,D.,《人类疾病基因》,《自然》,409853-855(2001)
[36] Johnstone,Iain M.,成分分析,《统计年鉴》,29295-327(2001)·Zbl 1016.62078号
[37] Johnstone,I.M.和Lu,A.Y.(2012年)。高维主成分分析的一致性和稀疏性。J.Amer。统计师。协会·Zbl 1388.62175号
[38] Karoui,N.E.(2008年a)。大维稀疏协方差矩阵的算子范数一致估计。Ann.Stat.,2717-2756年·Zbl 1196.62064号
[39] Karoui,N.E.(2008b)。基于随机矩阵理论的大维协方差矩阵谱估计。Ann.Stat.,2757-2790年·Zbl 1168.62052号
[40] 考夫曼,Cg;Mj Schervish;Nychka,Dw,大型空间数据集中基于相似性估计的协方差减缩,美国统计协会,103,1545-1555(2008)·Zbl 1286.62072号
[41] Lam,C。;Fan,J.,大协方差矩阵估计中的稀疏性和收敛速度,Ann.Statist。,37, 4254 (2009) ·Zbl 1191.62101号
[42] O.莱多特。;圣克拉拉,P。;Wolf,M.,《国际股票市场应用的灵活多元Garch建模》,《经济评论》。统计学。,85, 735-747 (2003)
[43] O.莱多特。;Wolf,M.,大维协方差矩阵的良好条件估计量,J.Multivar。分析。,88, 365-411 (2004) ·Zbl 1032.62050
[44] Li,D.和Zou,H.(2014)。大协方差矩阵的确定信息准则的渐近性质。arXiv:http://arXiv.org/abs/1406.6514。
[45] 李,D。;Zou,H.,大协方差矩阵估计的确定信息准则及其渐近性质,IEEE Trans。《信息理论》,62,2153-2169(2016)·Zbl 1359.94270号
[46] Ma,Z,,《稀疏主成分分析与迭代阈值法》,《Ann.Stat.》,第41期,第772-801页(2013年)·Zbl 1267.62074号
[47] 马尔泽塔,Tl;Tucci,Gh;Simon,Sh,处理奇异协方差估计的随机矩阵理论方法,IEEE Trans。通知。理论,576256-6271(2011)·Zbl 1365.62202号
[48] Mcmurry,特拉华州;Politis,Dn,自方差矩阵和线性过程自举的带状和锥形估计,J.Time-Ser。分析。,31, 471-482 (2010) ·兹比尔1226.60052
[49] Nicolai Meinshausen;彼得·伯尔曼,《高维图与拉索变量选择》,《统计年鉴》,第34、3、1436-1462页(2006)·Zbl 1113.62082号
[50] 帕蒂,D。;Bhattacharya,A。;皮莱,Ns;Dunson,Db,海量协方差矩阵稀疏贝叶斯因子模型的后验收缩,《统计年鉴》,42,1102-1130(2014)·Zbl 1305.62124号
[51] Pourahmadi,Mohsen,协方差估计:GLM和正则化视角,统计科学,26,3,369-387(2011)·Zbl 1246.62139号
[52] 乔·H。;Pal,P.,压缩低秩Toeplitz矩阵的广义嵌套采样,IEEE信号处理。莱特。,22, 1844-1848 (2015)
[53] 拉维库马尔,P。;Mj Wainwright;Raskutti,G。;Yu,B,,通过最小化进行高维协方差估计1-惩罚对数决定元散度,Electron。J.统计。,5, 935-980 (2011) ·Zbl 1274.62190号
[54] Aj Rothman;莱维纳,E。;Zhu,J.,大协方差矩阵的广义阈值,美国统计协会,104,177-186(2009)·兹比尔1388.62170
[55] Schäfer,J。;Strimmer,K,,《大规模协方差矩阵估计的收缩方法及其对功能基因组学的影响》,Statist。申请。遗传学分子。《生物学》,4,32(2005)
[56] 沈,H。;Huang,Jz,通过正则化低秩矩阵近似进行稀疏主成分分析,J.Multivar。分析。,99, 1015-1034 (2008) ·Zbl 1141.62049号
[57] 史密斯,M。;Kohn,R.,纵向数据的简约协方差矩阵估计,美国统计协会,97,1141-1153(2002)·Zbl 1041.62044号
[58] Stein,C.等人(1956年)。多元正态分布均值的常用估计的不可接受性。《第三届伯克利数理统计与概率研讨会论文集》,第1卷,第197-206页·Zbl 0073.35602号
[59] 查尔斯·斯坦因(Charles M.Stein),多元正态分布平均值的估计,《统计年鉴》,9,6,1135-1151(1981)·兹伯利0476.62035
[60] 沃纳,K。;Jansson,M。;Stoica,P.,关于具有kronecker乘积结构的协方差矩阵的估计,IEEE Trans。信号处理。,56, 478-491 (2008) ·Zbl 1390.94472号
[61] Witten,D.M.、Tibshirani,R.和Hastie,T.(2009年)。惩罚矩阵分解,应用于稀疏主成分和典型相关分析。生物统计学,kxp008·Zbl 1388.62180号
[62] Wu,Wb;Pourahmadi,M.,纵向数据大协方差矩阵的非参数估计,生物统计学,90831-844(2003)·Zbl 1436.62347号
[63] W.B.Wu和M.Pourahmadi(2009)。平稳过程的带状样本自方差矩阵。统计正弦。,1755-1768. ·Zbl 1176.62083号
[64] Xiao,H。;Wu,Wb,,平稳时间序列协方差矩阵估计,Ann.Stat.,40,466-493(2012)·Zbl 1246.62191号
[65] Xiao,L.和Bunea,F.(2014)。关于大协方差矩阵带估计的理论和实际优点。arXiv:http://arXiv.org/abs/1402.0844。
[66] Yi,F。;Zou,H.,大协方差矩阵的可靠变细估计,计算。统计师。数据分析。,58333-351(2013)·Zbl 1365.62209号
[67] 袁,M。;Lin,Y.,高斯图形模型中的模型选择和估计,生物统计学,94,1,19-35(2007)·Zbl 1142.62408号
[68] 邹,H。;哈斯蒂,T。;Tibshirani,R.,稀疏主成分分析,J.Compute。图表。统计学。,15, 265-286 (2006)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。