×

马蹄形先验概率对偶下的精确矩阵估计。 (英语) Zbl 07823206号

摘要:多元高斯模型中的精确矩阵估计是网络估计的基础。尽管有贝叶斯方法和频率分析方法,但在相同的先验概率对偶下,很难获得良好的贝叶斯和频率分析属性。为了弥合这一差距,我们的贡献是一种新颖的先验-惩罚对偶,它近似于图形马蹄形先验和惩罚,在贝叶斯和频率论意义上都表现良好。图形马蹄形先验的一个主要困难是缺少密度函数的闭合形式表达式,这是我们在本文中克服的。从理论上讲,除了MAP估计器在相同速率下的频率一致性外,我们还建立了精度矩阵的后验收敛速度,该后验收敛速率与频率学家图形lasso估计员的收敛速度相匹配。此外,我们的结果还为迄今尚未探索的先前开发的方法提供了理论依据,例如图形马蹄形先验。针对惩罚似然和完全贝叶斯估计问题,分别开发了计算效率高的EM和MCMC算法。在数值实验中,基于马蹄形的方法通过全面优于竞争方法来呼应其优越的理论特性。B细胞淋巴瘤中的蛋白质相互作用网络估计被认为是对所提方法的验证。

MSC公司:

62甲12 多元分析中的估计
2012年12月62日 参数估计量的渐近性质
2015年1月62日 贝叶斯推断
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Banerjee,S.、Castillo,I.和Ghosal,S.(2021年)。高维模型中的贝叶斯推理。arXiv预打印arXiv:2101.04491。数学科学网:MR3251280
[2] Banerjee,S.和Ghosal,S.(2014)。使用图形模型估计大精度矩阵的后验收敛速度。《电子统计杂志》,8(2):2111-2137。数学科学网:MR3273620·兹比尔1302.62124
[3] Banerjee,S.和Ghosal,S.(2015)。图形模型中的贝叶斯结构学习。多元分析杂志,136:147-162。数学科学网:MR3321485·Zbl 1308.62119号
[4] Barndorff Nielsen,O.、Kent,J.和Sörensen,M.(1982)。正态方差-混合和z分布。《国际统计评论》,第145-159页。数学科学网:MR0678296·兹伯利0497.62019
[5] Bhadra,A.、Datta,J.、Polson,N.G.和Willard,B.(2016)。具有全局-局部收缩先验的默认贝叶斯分析。生物特征, 103(4):955-969. 数学科学网:MR3620450·Zbl 1506.62343号
[6] Bhadra,A.、Datta,J.、Polson,N.G.和Willard,B.T.(2019a)。特征子集选择的马蹄形正则化。Sankhya B,第1-30页。数学科学网:MR4256316
[7] Bhadra,A.、Datta,J.、Polson,N.G.和Willard,B.T.(2019b)。拉索遇到马蹄铁:一项调查。统计科学,34(3):405-427。数学科学网:MR4017521·Zbl 1429.62308号
[8] Bhattacharya,A.、Pati,D.、Pillai,N.S.和Dunson,D.B.(2015)。Dirichlet-Laplace优先考虑最佳收缩。美国统计协会杂志,110(512):1479-1490。数学科学网:MR3449048·Zbl 1373.62368号
[9] Bickel,P.J.和Levina,E.(2008)。大协方差矩阵的正则化估计。《统计年鉴》,36(1):199-227。数学科学网:MR2387969·Zbl 1132.62040号
[10] Brualdi,R.A.和Mellendorf,S.(1994年)。包含矩阵特征值的复平面区域。《美国数学月刊》,101(10):975-985。数学科学网:MR1304322·Zbl 0838.15010号
[11] Cai,T.、Liu,W.和Luo,X.(2011)。稀疏精度矩阵估计的约束(ell_1)最小化方法。美国统计协会杂志,106(494):594-607。数学科学网:MR2847973·Zbl 1232.62087号
[12] Callot,L.,Caner,M.,Ønder,A.Ù。,和Ulaşan,E.(2019)。估计大型投资组合的逐点回归方法。《商业与经济统计杂志》,第1-12页。数学科学网:MR4235193
[13] Candès,E.J.和Tao,T.(2010年)。凸松弛的威力:近最优矩阵补全。IEEE信息理论汇刊,56(5):2053-2080。数学科学网:MR2723472·Zbl 1366.15021号
[14] Carvalho,C.M.、Polson,N.G.和Scott,J.G.(2010年)。稀疏信号的马蹄形估计器。生物特征, 97(2):465-480. 数学科学网:MR2650751·Zbl 1406.62021号
[15] Castillo,I.、Schmidt-Hieber,J.和van der Vaart,A.(2015)。稀疏先验贝叶斯线性回归。《统计年鉴》,43(5):1986-2018。数学科学网:MR3375874·Zbl 1486.62197号
[16] Dawid,A.P.、Stone,M.和Zidek,J.V.(1973年)。贝叶斯和结构推理中的边缘化悖论。英国皇家统计学会杂志:B辑,35(2):189-213。数学科学网:MR0365805·Zbl 0271.62009号
[17] Fan,J.、Feng,Y.和Wu,Y.(2009)。通过自适应套索和SCAD惩罚进行网络探索。应用统计年鉴,3(2):521-541。数学科学网:MR2750671·Zbl 1166.62040号
[18] Fan,J.和Li,R.(2001a)。通过非冲突惩罚似然及其oracle属性进行变量选择。美国统计协会期刊,96(456):1348-1360。数学科学网:MR1946581·兹比尔1073.62547
[19] Fan,J.和Li,R.(2001b)。通过非冲突惩罚似然及其oracle属性进行变量选择。美国统计协会杂志,96(456):1348-1360。数学科学网:MR1946581·兹比尔1073.62547
[20] Fan,J.、Liao,Y.和Liu,H.(2016)。大协方差和精度矩阵估计概述。计量经济学杂志,19(1):C1-C32。数学科学网:MR3501529·Zbl 1521.62083号
[21] Friedman,J.、Hastie,T.和Tibshirani,R.(2008)。用图形套索进行稀疏逆协方差估计。生物统计学, 9(3):432-441. ·Zbl 1143.62076号
[22] Friedman,J.、Hastie,T.和Tibshirani,R.(2018)。glasso:图形拉索:高斯图形模型的估计。R包版本1.10。数学科学网:MR4107668
[23] Gan,L.、Narisetty,N.N.和Liang,F.(2019)。不等收缩图形模型的贝叶斯正则化。美国统计协会杂志,114(527):1218-1231。数学科学网:MR4011774·Zbl 1428.62225号
[24] Ghosal,S.、Ghosh,J.K.和van der Vaart,A.W.(2000)。后验分布的收敛速度。统计年鉴,28(2):500-531。数学科学网:MR1790007·Zbl 1105.62315号
[25] Ha,M.J.、Banerjee,S.、Akbani,R.、Liang,H.、Mills,G.B.、Do,K.-A和Baladandayuthapani,V.(2018)。癌症蛋白质组图谱的个性化集成网络建模。科学报告,8(1):1-14。
[26] Hartwell,L.H.、Hopfield,J.J.、Leibler,S.和Murray,A.W.(1999)。从分子生物学到模块化细胞生物学。自然,402(6761):C47-C52。
[27] He,X.和Zhang,J.(2006)。为什么枢纽在蛋白质网络中往往至关重要?《公共科学图书馆·遗传学》,2(6):e88。
[28] Huynh-Thu,V.A.和Sanguinetti,G.(2019年)。基因调控网络推断:介绍性调查。在基因调控网络中,第1-23页。斯普林格。
[29] Jeong,H.、Mason,S.P.、Barabási,A.-L.和Oltvai,Z.N.(2001)。蛋白质网络中的致死性和中心性。自然, 411(6833):41-42.
[30] Kuismin,M.O.、Kemppainen,J.T.和Sillanpää,M.J.(2017)。使用ROPE进行精确矩阵估计。计算与图形统计杂志,26(3):682-694。数学科学网:MR3698677
[31] Lam,C.和Fan,J.(2009年)。大协方差矩阵估计中的稀疏性和收敛速度。统计年鉴,37(6B):4254。数学科学网:MR2572459·Zbl 1191.62101号
[32] Lauritzen,S.L.(1996)。图形模型。牛津大学出版社。数学科学网:MR1419991 zbMATH:0907.62001·Zbl 0907.62001
[33] Leclerc,R.D.(2008)。最稀疏的生存:强大的基因网络是简约的。分子系统生物学,4(1):213。
[34] Lee,K.、Jo,S.和Lee,J.(2022)。具有近极小极大后验收敛率的稀疏协方差的beta混合收缩先验。多元分析杂志,192:105067。数学科学网:MR4450889·Zbl 1520.62054号
[35] Lee,K.和Lee,J.(2021)。通过改进的Cholesky分解估计大精度矩阵。中国统计局,31(2021):173-196。数学科学网:MR4270383·Zbl 1464.62294号
[36] Li,Y.、Craig,B.A.和Bhadra,A.(2019)。逆协方差矩阵的图形马蹄估计。计算与图形统计杂志,28(3):747-757。数学科学网:MR4007755·Zbl 07499091号
[37] Liu,C.和Martin,R.(2019年)。稀疏高维高斯图形模型的经验Wishart先验。arXiv预打印arXiv:1912.03807。数学科学网:MR4138128
[38] Makalic,E.和Schmidt,D.F.(2015)。马蹄形估计器的简单取样器。IEEE信号处理快报,23(1):179-182。
[39] Meng,X.-L.和Rubin,D.B.(1993)。通过ECM算法的最大似然估计:一般框架。生物特征, 80(2):267-278. 数学科学网:MR1243503·Zbl 0778.62022号
[40] Mohammadi,A.和Wit,E.C.(2015年A)。稀疏高斯图形模型中的贝叶斯结构学习。贝叶斯分析,10(1):109-138。数学科学网:MR3420899·Zbl 1335.62056号
[41] Mohammadi,R.和Wit,E.C.(2015b)。Bdgraph:图形模型中贝叶斯结构学习的R包。arXiv预印arXiv:1501.05108。
[42] Park,T.和Casella,G.(2008)。贝叶斯套索。美国统计协会杂志,103(482):681-686。数学科学网:MR2524001·Zbl 1330.62292号
[43] Piironen,J.和Vehtari,A.(2017年)。马蹄铁和其他收缩前的稀疏信息和规则化。电子统计杂志,11(2):5018-5051。数学科学网:MR3738204·Zbl 1459.62141号
[44] Pourahmadi,M.(2011)。协方差估计:GLM和正则化视角。统计科学,26(3):369-387。数学科学网:MR2917961 zbMATH:1246.62139·Zbl 1246.62139号
[45] Ravasz,E.、Somera,A.L.、Mongru,D.A.、Oltvai,Z.N.和Barabási,A.-L.(2002)。代谢网络中模块化的层次组织。科学类, 297(5586):1551-1555.
[46] Rothman,A.J.、Bickel,P.J.、Levina,E.和Zhu,J.(2008)。稀疏置换不变协方差估计。《电子统计杂志》,2:494-515。数学科学网:MR2417391·兹比尔1320.62135
[47] Roverato,A.(2000年)。超逆wishart矩阵的Cholesky分解。生物特征, 87(1):99-112. 数学科学网:MR1766831·Zbl 0974.62047号
[48] Roverato,A.(2002年)。不可分解图的超逆wishart分布及其在高斯图形模型贝叶斯推理中的应用。斯堪的纳维亚统计杂志,29(3):391-411。数学科学网:MR1925566·Zbl 1036.62027号
[49] Ryali,S.、Chen,T.、Supekar,K.和Menon,V.(2012)。使用基于稳定性选择的稀疏部分相关和弹性网惩罚估计fmri数据中的功能连通性。神经影像, 59(4):3852-3861.
[50] Song,Q.和Liang,F.(2017)。高维回归的近似最优贝叶斯收缩。arXiv预打印arXiv:1712.08964。数学科学网:MR4535982
[51] Tang,X.、Xu,X.和Ghosh,M.(2018)。基于全局-局部收缩先验的贝叶斯变量选择和估计。Sankhya A,80(2):215-246。数学科学网:MR3850065
[52] Tibshirani,R.(1996)。通过套索回归收缩和选择。英国皇家统计学会杂志。B系列,58:267-288。数学科学网:MR1379242·Zbl 0850.62538号
[53] van den Boom,W.、Beskos,A.和De Iorio,M.(2022年)。g-wishart加权提议算法:高斯图形模型的有效后验计算。计算与图形统计杂志,31(4):1215-1224。数学科学网:MR4513382·兹伯利07633315
[54] van der Pas,S.、Szabó,B.和van der Vaart,A.(2017年)。马蹄铁的不确定性量化(讨论)。贝叶斯分析,12(4):1221-1274。数学科学网:MR3724985·Zbl 1384.62155号
[55] Van Wieringen,W.N.和Peeters,C.F.(2016)。高维数据中逆协方差矩阵的岭估计。计算统计与数据分析,103:284-303。数学科学网:MR3522633·兹比尔1466.62204
[56] Wang,C.、Pan,G.、Tong,T.和Zhu,L.(2015)。使用随机矩阵理论对大维精度矩阵进行收缩估计。中国统计局,25:993-1008。数学科学网:MR3409734·Zbl 1415.62035号
[57] Wang,H.(2012)。贝叶斯图形套索模型和有效的后验计算。贝叶斯分析,7(4):867-886。数学科学网:MR3000017·Zbl 1330.62041号
[58] 王宏(2014)。协方差图形套索的坐标下降算法。统计与计算,24(4):521-529。数学科学网:MR3223538·Zbl 1325.62136号
[59] Wang,H.(2015)。放大:图形模型中的随机搜索结构学习。贝叶斯分析,10(2):351-377。数学科学网:MR3420886·Zbl 1335.62068号
[60] Weinstein,J.N.、Collisson,E.A.、Mills,G.B.、Shaw,K.R.M.、Ozenberger,B.A.、Ellrott,K.、Shmulevich,I.、Sander,C.和Stuart,J.M.(2013)。癌症基因组图谱泛癌分析项目。《自然遗传学》,45(10):1113-1120。
[61] Xiang,R.、Khare,K.和Ghosh,M.(2015)。可分解图形模型的高维后验收敛速度。《电子统计杂志》,9(2):2828-2854。数学科学网:MR3439186·兹比尔1329.62152
[62] Xie,Kou,S.C.和Brown,L.(2016)。二次方差分布族中平均参数的最优收缩估计。《统计年鉴》,44(2):564-597。数学科学网:MR3476610·Zbl 1347.60017号
[63] Yang,E.、Ravikumar,P.、Allen,G.I.和Liu,Z.(2012)。通过广义线性模型的图形模型。NIPS公司第25卷,第1367-1375页。
[64] Zhang,T.和Zou,H.(2014)。通过套索惩罚d迹损失进行稀疏精度矩阵估计。生物特征, 101(1):103-120. 数学科学网:MR3180660·Zbl 1285.62063号
[65] Zou,H.和Hastie,T.(2005)。通过弹性网络进行正则化和变量选择。英国皇家统计学会杂志:B辑(统计方法),67(2):301-320。数学科学网:MR2137327·Zbl 1069.62054号
[66] 邹浩和李若明(2008)。非凹陷惩罚似然模型中的一步稀疏估计。统计年鉴,36(4):1509-1533。数学科学网:MR2435443·Zbl 1142.62027号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。