×

低阶模型的推断。 (英语) Zbl 07732749号

摘要:本文研究了线性模型中的推理,其中高维参数矩阵可以很好地近似为“尖峰低秩矩阵”。尖峰低阶矩阵的秩与其维数相比增长缓慢,非零奇异值发散到无穷大。我们表明,该框架涵盖了一类广泛的潜在变量模型,可以容纳矩阵完成问题、因子模型、变系数模型和异质处理效应。为了进行推断,我们采用了一种程序,该程序依赖于一个初始核范数惩罚估计步骤,然后是两个普通的最小二乘回归。我们考虑估计非相干特征向量的框架,并使用旋转参数证明特征空间估计是渐近无偏的。利用这个框架,我们证明了我们的过程提供了渐近正态推理,并达到了半参数效率界。我们通过为其在治疗效果上下文中的应用提供低水平条件来说明我们的框架,在该上下文中,治疗分配可能具有强烈的依赖性。

MSC公司:

62甲12 多元分析中的估计
2012年12月62日 参数估计量的渐近性质
62小时25分 因子分析和主成分;对应分析
62年5月 线性回归;混合模型
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Abbe,E.、Fan,J.、Wang,K.和Zhong,Y.(2020年)。低期望秩随机矩阵的条目特征向量分析。安。统计师。48 1452-1474·Zbl 1450.62066号 ·doi:10.1214/19-AOS1854
[2] ATHEY,S.、BAYATI,M.、DOUDCHENKO,N.、IMBENS,G.和KHOSRAVI,K.(2021年)。因果面板数据模型的矩阵补全方法。J.Amer。统计师。协会。116 1716-1730. ·Zbl 1506.15030号 ·doi:10.1080/016214592021.1889224
[3] Belloni,A.和Chernozhukov,V.(2013)。高维稀疏模型中模型选择后的最小二乘法。伯努利19 521-547. ·Zbl 1456.62066号 ·doi:10.3150/11-BEJ410
[4] Berthet,Q.和Rigollet,P.(2013)。高维稀疏主成分的最优检测。安。统计师。41 1780-1815. ·Zbl 1277.62155号 ·doi:10.1214/13-AOS1127
[5] Birnbaum,A.、Johnstone,I.M.、Nadler,B.和Paul,D.(2013)。含噪声高维数据的稀疏PCA的极小极大界。安。统计师。41 1055-1084. ·Zbl 1292.62071号 ·doi:10.1214/12-AOS1014
[6] Cai,T.T.,Ma,Z.和Wu,Y.(2013)。稀疏PCA:最优速率和自适应估计。安。统计师。41 3074-3110. ·Zbl 1288.62099号 ·doi:10.1214/13-AOS1178
[7] CANDÈS,E.J.和PLAN,Y.(2010)。带噪声的矩阵完成。程序。电气与电子工程师协会98 925-936.
[8] Candès,E.J.和Recht,B.(2009年)。通过凸优化实现精确矩阵补全。已找到。计算。数学。9 717-772. ·Zbl 1219.90124号 ·doi:10.1007/s10208-009-9045-5
[9] Chen,Y.,Chi,Y.、Fan,J.、Ma,C.和Yan,Y..(2020年)。噪声矩阵完成:通过非凸优化了解凸松弛的统计保证。SIAM J.Optim公司。30 3098-3121. ·兹比尔1477.90060 ·doi:10.1137/19M1290000
[10] Chen,Y.、Fan,J.、Ma,C.和Yan,Y..(2019年)。噪声矩阵补全的推断和不确定性量化。程序。国家。阿卡德。科学。美国116 22931-22937. ·Zbl 1431.90117号 ·doi:10.1073/pnas.1910053116
[11] CHERNOZHUKOV,V.、HANSEN,C.、LIAO,Y.和ZHU,Y.(2018)。使用低秩估计推断异质效应。ArXiv预印本。可从ArXiv:1812.08089获得。
[12] CHERNOZHUKOV,V.、HANSEN,C.、LIAO,Y.和ZHU,Y.(2023)。补充“低阶模型的推断”https://doi.org/10.1214/23-AOS2293SUPP网站 ·Zbl 07732749号
[13] CHERNOZHUKOV,V.、HANSEN,C.和SPINDLER,M.(2015)。有效的后选择和后正则化推理:一种基本的通用方法。经济年鉴。7 649-688。
[14] DRAY,S.和JOSSE,J.(2015)。缺失值主成分分析:方法的比较调查。植物生态。216 657-667.
[15] 范J.、郭J.和郑S.(2022)。通过调整特征值阈值估计因子数。J.Amer。统计师。协会。117 852-861. ·Zbl 1507.62258号 ·doi:10.1080/01621459.2020.1825448
[16] Gross,D.(2011年)。从任何基础上的少数系数中恢复低秩矩阵。IEEE传输。Inf.理论57 1548-1566. ·Zbl 1366.94103号 ·doi:10.1109/TIT.2011.2104999
[17] HASTIE,T.、MAZUMDER,R.、LEE,J.D.和ZADEH,R.(2015)。通过快速交替最小二乘法实现矩阵补全和低秩奇异值分解。J.马赫。学习。研究。16 3367-3402. ·Zbl 1352.65117号
[18] IWAKURA,H.和OKUI,R.(2014)。因子模型和动态面板数据模型的渐近效率。可从SSRN 2395722获取。
[19] Jain,P.、Netrapalli,P.和Sanghavi,S.(2013)。使用交替最小化完成低秩矩阵(扩展抽象)。STOC公司13-会议记录2013ACM计算理论研讨会665-674页。纽约ACM·Zbl 1293.65073号 ·doi:10.1145/2488608.2488693
[20] JANKOVá,J.和VAN DE GEER,S.(2018年)。高维模型的半参数效率界限。安。统计师。46 2336-2359. ·Zbl 1420.62308号 ·doi:10.1214/17-AOS1622
[21] JANKOVá,J.和VAN DE GEER,S.(2021)。去偏稀疏PCA:大型协方差矩阵特征结构的推断。IEEE传输。Inf.理论67 2507-2527·Zbl 1473.62204号 ·doi:10.1109/TIT.2021.3059765
[22] Keshavan,R.H.、Montanari,A.和Oh,S.(2010年)。从几个条目完成矩阵。IEEE传输。Inf.理论56 2980-2998. ·Zbl 1366.62111号 ·doi:10.1109/TIT.2010.2046205
[23] Klopp,O.(2014)。具有一般采样分布的噪声低秩矩阵补全。伯努利20 282-303. ·Zbl 1400.62115号 ·文件编号:10.3150/12-BEJ486
[24] Koltchinskii,V.、Löffler,M.和Nickl,R.(2020年)。主成分线性泛函的有效估计。安。统计师。48 464-490. ·Zbl 1440.62232号 ·doi:10.1214/19-AOS1816
[25] Koltchinskii,V.、Lounici,K.和Tsybakov,A.B.(2011年)。核范数惩罚和噪声低秩矩阵完成的最优速率。安。统计师。39 2302-2329. ·Zbl 1231.62097号 ·doi:10.1214/11-AOS894
[26] Negahban,S.和Wainwright,M.J.(2011年)。带有噪声和高维缩放的(近)低秩矩阵的估计。安。统计师。39 1069-1097. ·兹比尔1216.62090 ·doi:10.1214/10-AOS850
[27] NEYMAN,J.(1959年)。复合统计假设的最优渐近检验。概率论与统计学:哈拉尔德·克拉姆卷(U.Grenander编辑)213-234。斯德哥尔摩Almqvist&Wiksell·Zbl 0104.12602号
[28] Onatski,A.(2010年)。根据特征值的经验分布确定因子的数量。经济收益率。斯达。92 1004-1016.
[29] Recht,B.(2011年)。矩阵补全的简单方法。J.马赫。学习。研究。12 3413-3430. ·Zbl 1280.68141号
[30] ROHDE,A.和TSYBAKOV,A.B.(2011年)。高维低秩矩阵的估计。安。统计师。39 887-930. ·Zbl 1215.62056号 ·doi:10.1214/10-AOS860
[31] 孙日荣、罗志清(2016)。通过非凸分解保证矩阵完成。IEEE传输。Inf.理论62 6535-6579. ·Zbl 1359.94179号 ·doi:10.1109/TIT.2016.2598574
[32] SUN,T.和ZHANG,C.-H.(2012)。通过核范数最小化保证线性矩阵方程的最小秩解。高级神经信息处理。系统。863-871.
[33] Xia,D.和Yuan,M.(2021)。噪声矩阵补全线性形式的统计推断。J.R.统计社会服务。B.统计方法。83 58-77. ·Zbl 07555256号 ·doi:10.1111/rssb.12400
[34] ZHU,Z.,WANG,T.和SAMWORTH,R.J.(2022)。具有异质缺失的高维主成分分析。J.R.统计社会服务。B.统计方法。84 2000-2031 ·Zbl 07686605号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。