×

基于稀疏Cholesky因子的高维DAG模型的最小后验收敛率和模型选择一致性。 (英语) Zbl 1435.62037号

考虑一个数据样本(X_1,\ldots,X_n),该样本具有(p\)维正态分布,具有(p_)维平均向量(\mu\)和(p_乘以p_)维协方差矩阵(\Sigma_n\)。对于每个正定矩阵,修正的Cholesky分解(MCD)保证了Choleskyfactor(A_n)和对角矩阵(D_n)的存在性和唯一性,使得(Omega_n:=\Sigma_n^{-1}=(I_p-A_n)^{tau}D_n^{-1}(I_p-A_n,))。高斯有向无环图(DAG)的稀疏性可以通过图的结构由Cholesky因子(a_n)唯一编码。
本文大大削弱了Cholesky因子(A_n)的维数、稀疏性、结构以及(A_n\)中非零元素的下限的必要条件。得到了精确矩阵关于谱范数和矩阵(l_{+infty})范数的极小极大或近似极小极大后验收敛速度。该方法在实际应用中显著提高了模型选择性能。

MSC公司:

62C20个 统计决策理论中的Minimax过程
2015年1月62日 贝叶斯推断
62甲12 多元分析中的估计
2012年12月62日 参数估计量的渐近性质

软件:

选择性推理
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Banerjee,S.和Ghosal,S.(2014)。使用图形模型估计大精度矩阵的后验收敛速度。电子。《美国联邦法律大全》第8卷第2111-2137页·Zbl 1302.62124号 ·doi:10.1214/14-EJS945
[2] Banerjee,S.和Ghosal,S.(2015)。图形模型中的贝叶斯结构学习。《多元分析杂志》。136 147-162. ·Zbl 1308.62119号 ·doi:10.1016/j.jmva.2015.01.015
[3] Ben-David,E.、Li,T.、Massam,H.和Rajaratnam,B.(2015)。高斯有向非循环图模型的高维贝叶斯推理。可从arXiv:1109.4371v5获取。
[4] Bhattacharya,A.、Pati,D.和Yang,Y.(2019年)。贝叶斯分数后验。安。统计师。。47 39-66. ·Zbl 1473.62116号 ·doi:10.1214/18-AOS1712
[5] Bickel,P.J.和Levina,E.(2008)。大协方差矩阵的正则化估计。安。统计师。36 199-227年·Zbl 1132.62040号 ·doi:10.1214/009053607000000758
[6] Bühlmann,P.和van de Geer,S.(2011)。高维数据统计:方法、理论和应用。统计学中的斯普林格系列。海德堡施普林格·Zbl 1273.62015年
[7] Cai,T.T.,Liu,W.和Zhou,H.H.(2016)。估计稀疏精度矩阵:最佳收敛速度和自适应估计。安。统计师。44 455-488. ·Zbl 1341.62115号 ·doi:10.1214/13-AOS1171
[8] Cai,T.、Ma,Z.和Wu,Y.(2015)。稀疏峰值协方差矩阵的最优估计和秩检测。可能性。理论相关领域161 781-815·Zbl 1314.62130号 ·doi:10.1007/s00440-014-0562-z
[9] Cai,T.T.和Yuan,M.(2012)。通过块阈值进行自适应协方差矩阵估计。安。统计师。40 2014-2042. ·Zbl 1257.62060号 ·doi:10.1214/12-AOS999
[10] Cai,T.T.,Zhang,C.-H.和Zhou,H.H.(2010)。协方差矩阵估计的最佳收敛速度。安。统计师。38 2118-2144. ·Zbl 1202.62073号 ·doi:10.1214/09-AOS752
[11] Cai,T.T.和Zhou,H.H.(2012年a)。范数下大协方差矩阵的Minimax估计。统计师。中国22 1319-1349·Zbl 1266.62036号
[12] Cai,T.T.和Zhou,H.H.(2012年b)。稀疏协方差矩阵估计的最佳收敛速度。安。统计师。40 2389-2420·Zbl 1373.62247号 ·doi:10.1214/12-AOS998
[13] Cao,X.、Khare,K.和Ghosh,M.(2019年)。高维贝叶斯DAG模型的后验图选择和估计一致性。安。统计师。47 319-348. ·Zbl 1417.62140号 ·doi:10.1214/18-AOS1689
[14] Castillo,I.、Schmidt-Hieber,J.和van der Vaart,A.(2015)。稀疏先验贝叶斯线性回归。安。统计师。43 1986-2018. ·Zbl 1486.62197号 ·doi:10.1214/15-AOS1334
[15] Fan,J.、Fan,Y.和Lv,J.(2008)。使用因子模型的高维协方差矩阵估计。《计量经济学杂志》147 186-197·兹比尔1429.62185 ·doi:10.1016/j.jeconom.2008.09.017
[16] Gao,C.和Zhou,H.H.(2015)。稀疏PCA的速率最优后收缩。安。统计师。43 785-818. ·Zbl 1312.62078号 ·doi:10.1214/14-AOS1268
[17] Grünwald,P.和van Ommen,T.(2017)。错误指定线性模型的贝叶斯推理的不一致性及其修复建议。贝叶斯分析。12 1069-1103. ·Zbl 1384.62088号 ·doi:10.1214/17-BA1085
[18] Huang,J.Z.,Liu,N.,Pourahmadi,M.和Liu,L.(2006)。通过惩罚正态似然选择协方差矩阵和估计。生物特征93 85-98·Zbl 1152.62346号 ·doi:10.1093/biomet/93.1.85
[19] Johnstone,I.M.和Lu,A.Y.(2009年)。高维主成分分析的一致性和稀疏性。J.Amer。统计师。协会104 682-693·兹比尔1388.62174 ·doi:10.1198/jasa.2009.0121
[20] Kalisch,M.和Bühlmann,P.(2007)。用PC-算法估计高维有向非循环图。J.马赫。学习。第8号决议613-636·兹比尔1222.68229
[21] Khare,K.、Oh,S.、Rahman,S.和Rajaratnam,B.(2016年)。基于高维稀疏Cholesky协方差估计的凸框架。预印。可从arxiv:1610.02436获取·Zbl 1447.62048号
[22] Lee,K.和Lee,J.(2017)。通过修正的cholesky分解估计大精度矩阵。可从arXiv:1707.01143获取·Zbl 1464.62294号
[23] Lee,K.和Lee,J.(2018)。无约束大协方差矩阵的最优贝叶斯极小极大率。贝叶斯分析。13 1211-1229. ·Zbl 1407.62043号 ·doi:10.1214/18-BA1094
[24] Lee,K.、Lee,J.和Lin,L.(2019年)。补充“基于稀疏Cholesky因子的高维DAG模型的最小后验收敛率和模型选择一致性”DOI:10.1214/18-AOS1783SUPP·Zbl 1435.62037号
[25] Liang,F.、Paulo,R.、Molina,G.、Clyde,M.A.和Berger,J.O.(2008)。贝叶斯变量选择的(g)先验混合。J.Amer。统计师。协会103 410-423·Zbl 1335.62026号 ·doi:10.1198/0162145000001337
[26] Martin,R.,Mess,R.和Walker,S.G.(2017年)。稀疏高维线性模型中的经验Bayes后验浓度。伯努利23 1822-1847·Zbl 1450.62085号 ·doi:10.3150/15-BEJ797
[27] Martin,R.和Walker,S.G.(2014)。稀疏正态均值向量的渐近极小极大经验Bayes估计。电子。《美国联邦法律大全》第8卷第2188-2206页·Zbl 1302.62015年 ·doi:10.1214/14-EJS949
[28] Miller,J.W.和Dunson,D.B.(2018年)。通过粗化实现稳健的贝叶斯推理。J.Amer。统计师。助理DOI:10.1080/01621459.2018.1469995·Zbl 1428.62287号
[29] Narisetty,N.N.和He,X.(2014)。具有收缩和扩散先验的贝叶斯变量选择。安。统计师。42 789-817. ·Zbl 1302.62158号 ·doi:10.1214/14-AOS1207
[30] Pati,D.、Bhattacharya,A.、Pillai,N.S.和Dunson,D.(2014)。大规模协方差矩阵的稀疏贝叶斯因子模型中的后验收缩。安。统计师。42 1102-1130. ·Zbl 1305.62124号 ·doi:10.1214/14-AOS1215
[31] Reid,S.、Tibshirani,R.和Friedman,J.(2016)。拉索回归中误差方差估计的研究。统计师。Sinica中国26 35-67·Zbl 1372.62023号
[32] Ren,Z.,Sun,T.,Zhang,C.-H.和Zhou,H.H.(2015)。大高斯图形模型估计中的渐近正态性和最优性。安。统计师。43 991-1026. ·Zbl 1328.62342号 ·doi:10.1214/14-AOS1286
[33] Rothman,A.J.、Levina,E.和Zhu,J.(2010)。一种新的高维基于Cholesky的协方差正则化方法。生物特征97 539-550·Zbl 1195.62089号 ·doi:10.1093/biomet/asq022
[34] Roverato,A.(2000年)。超逆Wishart矩阵的Cholesky分解。生物统计学87 99-112·Zbl 0974.62047号 ·doi:10.1093/biomet/87.1.99
[35] Rütimann,P.和Bühlmann,P(2009)。基于有向非循环图的高维稀疏协方差估计。电子。《美国联邦法律大全》第3卷第1133-1160页·Zbl 1326.62124号
[36] Shang,Z.和Clayton,M.K.(2011)。贝叶斯线性模型选择与越来越多的参数的一致性。J.统计。计划。推断141 3463-3474·Zbl 1219.62051号 ·doi:10.1016/j.jspi.2011.05.002
[37] Shin,M.、Bhattacharya,A.和Johnson,V.E.(2018年)。超高维设置中使用非局部先验密度的可缩放贝叶斯变量选择。统计师。中研院28 1053-1078·Zbl 1390.62125号
[38] Shojaie,A.和Michailidis,G.(2010年)。稀疏高维有向非循环图估计的惩罚似然方法。生物特征97 519-538·Zbl 1195.62090号 ·doi:10.1093/biomet/asq038
[39] Syring,N.A.和Martin,R.(2016年)。缩放吉布斯后可信区域。预印。可从arxiv:1509.00922获取·Zbl 1454.62105号
[40] van de Geer,S.和Bühlmann,P.(2013)\(\ell_0)-对稀疏有向非循环图的最大似然进行惩罚。安。统计师。41 536-567之间·Zbl 1267.62037号
[41] Wainwright,M.J.(2009年a)。高维和噪声环境中稀疏恢复的信息理论限制。IEEE传输。通知。理论55 5728-5741·Zbl 1367.94106号 ·doi:10.1109/TIT.2009.2032816
[42] Wainwright,M.J.(2009年b)。使用(ell_1)约束二次规划(Lasso)恢复高维和噪声稀疏性的锐化阈值。IEEE传输。通知。理论55 2183-2202·兹比尔1367.62220 ·doi:10.1109/TIT.2009.2016018
[43] Walker,S.和Hjort,N.L.(2001年)。关于贝叶斯一致性。J.R.统计社会服务。B.统计方法。63 811-821. ·Zbl 0987.62021号 ·doi:10.1111/1467-9868.00314
[44] Xiang,R.、Khare,K.和Ghosh,M.(2015)。可分解图形模型的高维后验收敛速度。电子。《美国联邦法律大全》第9卷第2828-2854页·Zbl 1329.62152号 ·doi:10.1214/15-EJS1084
[45] Yang,Y.,Wainwright,M.J.和Jordan,M.I.(2016)。关于高维贝叶斯变量选择的计算复杂性。安。统计师。44 2497-2532. ·Zbl 1359.62088号 ·doi:10.1214/15-AOS1417
[46] Yu,G.和Bien,J.(2017)。学习有序数据中的局部依赖性。J.马赫。学习。第1842号决议·Zbl 1433.68385号
[47] Zellner,A.(1986年)。关于评估先验分布和使用(g)-先验分布的贝叶斯回归分析。贝叶斯推理和决策技术。贝叶斯计量经济学统计学研究。6 233-243. 荷兰北部,阿姆斯特丹·Zbl 0655.62071号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。