泽尔伊科·凯雷塔；蒂莫·科洛克 沿子空间估计协方差和精度矩阵。 （英语） Zbl 1461.62067号 电子。J.统计。 15，编号1，554-588（2021）. 多元分析中最常讨论的问题之一是随机向量（mathbf{X}）的协方差矩阵（boldsymbol{Sigma}）或其逆矩阵（bold symbol}{Sigma}^{†}）（即相应的精度矩阵）的估计。设（hat{\boldsymbol{\Sigma}}）是给定的（N）个独立的（mathbf{X}）拷贝可用的（boldsympol{\Sigma}）的估计量。此估计中的关键问题是量化最小样本（N），以确保达到所需的准确度（ε>0）。此外，在实践中，统计学家通常对（黑体符号{\Sigma}）或（黑体字符{\Sigram}^{†}）本身并不直接感兴趣，而是对它们作为（双线性运算符如何作用于特定向量或矩阵感兴趣。就集中不等式而言，这可以解释为\（\|\mathbf{A}（\hat{boldsymbol{\Sigma}}-\boldsympol{\Sigma}）\mathbf{B}\|\）和\是一对给定的（矩形）矩阵。在亚高斯分布的情况下，这类边界是本工作的主要主题。在第2节中，给出了协方差和特征空间估计的界，它们对给定随机向量在感兴趣方向上的分布敏感。第3节致力于通过经验精度矩阵对精度矩阵（粗体符号{\Sigma}^{†}）进行定向估计，类似于第2节的结果。第4节提供了单指标模型估计的应用，包括理论分析和数值实验。该分析扩展了先前的研究，并显示了\（\mathbf｛X｝\）的各向异性如何影响估计器的精度。论文最后列出了一长串参考文献。审核人：Jaromír Antoch（普拉哈） 引用于1文件 MSC公司： 62甲12 多元分析中的估计 62J10型 方差和协方差分析（ANOVA） 62J12型 广义线性模型（逻辑模型） 62G08号 非参数回归和分位数回归 62G05型 非参数估计 关键词：协方差矩阵；有限样本界；尺寸缩减；收敛速度；常最小二乘方；单指数模型；精度矩阵 软件：杜布森；最简单的；玻璃制品 PDF格式BibTeX公司 XML格式引用 \textit{.Kereta}和\textit{T.Klock}，电子。《美国法律总汇》第15卷第1期，第554-588页（2021年；兹bl 1461.62067） 全文： 内政部 arXiv公司 欧几里得 参考文献： [1] Adamczak，R.、Litvak，A.、Pajor，A.和Tomczak-Jaegermann，N.（2010年）。对数压缩系综中经验协方差矩阵收敛性的定量估计。，美国数学学会杂志23，2，535-561·Zbl 1206.60006号 ·doi:10.1090/S0894-0347-09-00650-X [2] Adragni，K.P.和Cook，R.D.（2009年）。回归中的充分降维和预测。，英国皇家学会哲学汇刊A：数学、物理和工程科学36719064385-4405·Zbl 1185.62109号 ·doi:10.1098/rsta.2009.0110 [3] Anderson，T.W.（2003）。，多元统计分析导论，第三版，John Wiley&Sons·Zbl 1039.62044号 [4] Arbel，J.、Marchal，O.和Nguyen，H.D.（2019年）。关于有界随机变量的严格亚高斯性、最优代理方差和对称性。，出现在ESAIM:Probability and statistics arxiv:1901.09188中·Zbl 1445.60016号 ·doi:10.1051/ps/2019018 [5] Balabdaoui，F.、Groeneboom，P.和Hendrickx，K.（2019年）。单调单指标模型中的分数估计。，《斯堪的纳维亚统计杂志》46，2517-544·Zbl 1418.62103号 ·doi:10.1111/sjos.12361 [6] Belkin，M.、Rosasco，L.和Vito，E.D.（2010年）。关于积分算子的学习。，机器学习研究杂志11，905-934·兹比尔1242.62059 [7] Bhatia，R.（2013）。，矩阵分析。第169卷。施普林格科技与商业媒体·Zbl 0863.15001号 [8] Bickel，P.和Levina，E.（2008a）。基于阈值的协方差正则化。，《统计年鉴》362577-2604·Zbl 1196.62062号 ·doi:10.1214/08-AOS600 [9] Bickel，P.和Levina，E.（2008b）。大协方差矩阵的正则化估计。，《统计年鉴》36，1，199-227·Zbl 1132.62040号 ·doi:10.1214/009053607000000758 [10] Brillinger，D.（1982）。具有“高斯”回归变量的广义线性模型。，埃里希·莱曼的节日，97岁·Zbl 0519.62050号 [11] Cai，T.、Liu，W.和Luo，X.（2011）。稀疏精度矩阵估计的约束（ell_1）最小化方法。，《美国统计协会杂志》106，594-607·Zbl 1232.62087号 ·doi:10.1198/jasa.2011.tm10155 [12] Cai，T.、Liu，W.和Zhou，H.（2016）。估计稀疏精度矩阵：最佳收敛速度和自适应估计。，《统计年鉴》44，455-488·Zbl 1341.62115号 ·doi:10.1214/13-AOS1171 [13] Cai，T.，Ren，Z.和Zhou，H.H.（2016）。估计结构化高维协方差和精度矩阵：最佳速率和自适应估计。，电子统计杂志10，1，1-59·Zbl 1331.62272号 ·doi:10.1214/15-EJS1081 [14] Dalalyan，A.S.、Juditsky，A.和Spokoiny，V.（2008）。一种估计有效降维子空间的新算法。，《机器学习研究杂志》第9期，1647-1678年8月·Zbl 1225.62091号 [15] Dennis Cook，R.（2000）。SAVE：回归中的降维和图形方法。，统计学传播-理论与方法29，9-10，2109-2121·Zbl 1061.62503号 ·网址：10.1080/03610920008832598 [16] Dobson，A.和Barnett，A.（2008）。，广义线性模型简介。查普曼和霍尔/CRC·Zbl 1165.62049号 [17] Fan，J.、Liao，Y.和Liu，H.（2016）。大协方差和精度矩阵估计综述。，《计量经济学杂志》19，1，C1-C32·Zbl 1521.62083号 [18] Friedman，J.、Hastie，T.和Tibshirani，R.（2008）。用图形套索进行稀疏逆协方差估计。，生物统计学9，3，432-441·Zbl 1143.62076号 ·doi:10.1093/biostatistics/kxm045 [19] Györfi，L.、Kohler，M.、Krzyzak，A.和Walk，H.（2006年）。，非参数回归的无分布理论。施普林格科技与商业媒体·Zbl 1021.62024号 [20] Hristache，M.、Juditsky，A.和Spokoiny，V.（2001）。单指标模型中指标系数的直接估计。，《统计年鉴》29，3，595-623·Zbl 1012.62043号 ·doi:10.1214操作系统/1009210681 [21] Huang，J.、Liu，N.、Pourahmadi，M.和Liu，L.（2006）。通过惩罚正态似然选择协方差矩阵和估计。，生物医学93，1，85-98·Zbl 1152.62346号 ·doi:10.1093/biomet/93.1.85 [22] Ichimura，H.（1993）。单指标模型的半参数最小二乘（SLS）和加权SLS估计。，《计量经济学杂志》58，1-2，71-120·Zbl 0816.62079号 ·doi:10.1016/0304-4076（93）90114-K [23] Kakade，S.M.、Kanade，V.、Shamir，O.和Kalai，A.（2011年）。具有等渗回归的广义线性和单指标模型的有效学习。年，神经信息处理系统进展。927-935. [24] Kalai，A.T.和Sastry，R.（2009年）。等温线算法：高维等渗回归。在，COLT。Citeser。 [25] Klasing，K.、Althoff，D.、Wollherr，D.和Buss，M.（2009年）。距离传感应用中表面法向估计方法的比较。2009年IEEE机器人与自动化国际会议。IEEE，3206-3211。 [26] Klock，T.、Lanteri，A.和Vigonna，S.（2020年）。用响应条件最小二乘估计多指标模型。，arXiv预打印arXiv:2003.04788。 [27] Koltchinskii，V.（2017）。协方差算子光滑泛函的渐近有效估计。，arXiv预打印arXiv:1710.09072。 [28] Koltchinskii，V.、Löffler，M.、Nickl，R.和其他人。(2020). 主成分线性泛函的有效估计。，《统计年鉴》48，1，464-490·Zbl 1440.62232号 ·doi:10.1214/19-AOS1816 [29] Koltchinskii，V.、Lounici，K.等人。（2017a）。样本协方差算子的集中不等式和矩界。，伯努利23，1，110-133·Zbl 1366.60057号 ·doi:10.3150/15-BEJ730 [30] Koltchinskii，V.、Lounici，K.等人。（2017b）。样本协方差谱投影仪的正态近似和浓度。，《统计年鉴》45，121-157·兹比尔1367.62175 ·doi:10.1214/16-AOS1437 [31] Kontorovich，A.（2014）。无界度量空间中的集中度和算法稳定性。机器学习研究论文集，第32卷。机器学习研究论文集，28-36。 [32] Kuchibhotla，A.K.，Patra，R.K.等人。(2020). 通过平滑样条在单指标模型中的有效估计。，伯努利26，2，1587-1618·兹比尔1466.62295 ·doi:10.3150/19-BEJ1183 [33] Li，B.和Wang，S.（2007）。关于降维的方向回归。，《美国统计协会杂志》102，479，997-1008·Zbl 1469.62300号 ·doi:10.1198/0162145000000536 [34] Li，K.-C.（1991）。用于降维的分段逆回归。，美国统计协会杂志86，414，316-327·Zbl 0742.62044号 ·数字对象标识代码：10.1080/01621459.1991.10475035 [35] Li，K.C.和Duan，N.（1989年）。链接冲突下的回归分析。，《统计年鉴》17，3，1009-1052·兹比尔0753.62041 ·doi:10.1214/aos/1176347254 [36] Li，W.、Chen，Y.、Vong，S.和Luo，Q.（2018）。正交投影和广义逆摄动的一些精化界。，数值算法79，2，1-21·Zbl 1397.65051号 ·doi:10.1007/s11075-018-0473-7 [37] Little，A.V.、Maggioni，M.和Rosasco，L.（2017年）。数据集的多尺度几何方法I：多尺度奇异值分解、噪声和曲率。，应用和计算谐波分析43，3504-567·Zbl 06770640号 ·doi:10.1016/j.acha.2015.09.009 [38] Liu，W.和Luo，X.（2015）。高维快速自适应稀疏精度矩阵估计。，多元分析杂志135，153-162·Zbl 1307.62148号 ·doi:10.1016/j.jmva.2014.11.005 [39] Ma，Y.和Zhu，L.（2013）。尺寸缩减综述。，《国际统计评论》81，1，134-150·Zbl 1416.62220号 ·doi:10.1111/j.1751-5823.012.00182.x [40] McAleer，M.和Da Veiga，B.（2008年）。用于预测价值-风险阈值的单指数和投资组合模型。，《预测杂志》27，3，217-235。 [41] Meinshausen，N.和Bühlmann，P.（2006）。高维图和用套索选择变量。，《统计年鉴》34，31436-1462·兹比尔1113.62082 ·doi:10.1214/0090536000000281 [42] Meng，L.和Zheng，B.（2010）。Frobenius范数下Moore-Penrose逆的最优扰动界。，线性代数及其应用432，4956-963·Zbl 1189.15006号 ·doi:10.1016/j.laa.2009.10.009 [43] Mitra，N.J.和Nguyen，A.（2003年）。估计噪声点云数据中的曲面法线。年，第十九届计算几何年度研讨会论文集。美国医学会，322-328·Zbl 1378.65061号 [44] 欧阳（OuYang，D.）和冯海英（Feng，H.-Y.）（2005）。关于光滑曲面点云数据的法向量估计。，计算机辅助设计37，10，1071-1079。 [45] Plan，Y.和Vershynin，R.（2016）。具有非线性观测的广义套索。，IEEE信息理论汇刊62，3，1528-1537·Zbl 1359.94153号 ·doi:10.1109/TIT.2016.2517008 [46] Plan，Y.、Vershynin，R.和Yudovina，E.（2016年）。几何约束下的高维估计。，信息和推理：IMA期刊6，1，1-40·Zbl 1383.62121号 [47] Radchenko，P.（2015）。高维单指数模型。，多元分析杂志139，266-282·Zbl 1328.62482号 ·doi:10.1016/j.jmva.2015.02.007 [48] ReißM.和Wahl，M.（2020年）。PCA重建误差的非渐近上界。，《统计年鉴》481098-1123·Zbl 1450.62070号 ·doi:10.1214/19-AOS1839 [49] Srivastava，N.和Vershynin，R.（2013）。具有（2+varepsilon）矩的分布的协方差估计。，《概率年鉴》41，5，3081-3111·Zbl 1293.62121号 ·doi:10.1214/12-AOP760 [50] Tian，Y.和Cheng，S.（2004）。矩阵乘积的Moore-Penrose逆的一些恒等式。，线性和多线性代数52，6，405-420·兹比尔1070.15003 ·网址：10.1080/0308108041001699334 [51] van Wieringen，W.N.（2019年）。逆协方差矩阵的广义岭估计，计算与图形统计杂志28，4，932-942·Zbl 07499037号 [52] Vershynin，R.（2012年a）。样本协方差矩阵与实际协方差矩阵的接近程度如何？，理论概率杂志25，3，655-686·Zbl 1365.62208号 ·doi:10.1007/s10959-010-0338-z [53] Vershynin，R.（2012年b）。随机矩阵的非渐近分析导论。，210-268. [54] Vershynin，R.（2018）。，高维概率：介绍其在数据科学中的应用。第47卷。剑桥大学出版社·Zbl 1430.60005号 [55] 韦丁，P.奥拉。(1973). 伪逆的扰动理论。，BIT数字数学13，2，217-232·Zbl 0263.65047号 [56] Weyl，H.（1912）。Das渐近线Verteilungsgesetz der Eigenwerte linear parteller Differentialgleichungen（mit einer Anwendung auf die Theorye der Hohlramstrahlung）。，《数学年鉴》71、4、441-479·JFM 43.0436.01型 ·doi:10.1007/BF01456804 [57] Xu，X.（2018）。关于矩阵的Moore-Penrose逆的扰动，arXiv预印arXiv:1809.00203。 [58] Yaskov，P.（2014）。样本协方差矩阵最小特征值的下限，概率19中的电子通信·Zbl 1320.60023号 ·doi:10.1214/ECP.v19-3807 [59] Yu，Y·Zbl 1452.15010号 ·doi:10.1093/biomet/asv008 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。