×

后验模型概率和归一化({L_0})准则的集中。 (英语) Zbl 07809911号

总结:我们研究了贝叶斯和({L_0})模型选择的频率特性,重点是(潜在非线性)高维回归。我们提出了一种结构来研究后验概率和归一化({L_0})准则如何集中于(Kullback-Leibler)最优模型和模型空间的其他子集。当这种集中发生时,还限制了选择正确模型的频率学家概率,即I类和II类错误。这些结果基本成立,有助于验证后验概率和({L_0})标准的使用,以控制与模型选择和假设检验相关的频率错误概率。关于回归,我们有助于理解先验或({L_0})惩罚所施加的稀疏性的影响,以及问题特征的影响,例如样本大小、信噪比、维数和真实稀疏性。一个特别的发现是,可以使用比渐近最优更少的稀疏公式,但仍然可以获得一致性,并且通常也可以获得更好的有限样本性能。我们还证明了与错误指定均值或协方差结构有关的新结果,并给出了比当前可用的更严格的某些非局部先验概率。

MSC公司:

62至XX 统计
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Barbieri,M.和Berger,J.(2004)。“最佳预测模型选择。”统计年鉴, 32(3): 870-897. ·兹比尔1092.62033 ·doi:10.1214/009053604000000238
[2] Castillo,I.、Schmidt-Hieber,J.和van der Vaart,A.(2015)。“具有稀疏先验的贝叶斯线性回归。”统计年鉴, 43(5): 1986-2018. ·Zbl 1486.62197号 ·doi:10.1214/15-AOS1334
[3] Chae,M.、Lin,L.和Dunson,D.(2016)。“具有未知对称误差的贝叶斯稀疏线性回归。”arXiv公司, 1608.02143: 1-34. ·Zbl 1472.62107号 ·doi:10.1093/imaiai/iay022
[4] Dawid,A.(1999)。“贝叶斯因素的问题”,伦敦大学学院技术报告。
[5] Fernández,C.、Ley,E.和Steel,M.(2001)。“贝叶斯模型平均的基准先验”计量经济学杂志,100分:381-427·Zbl 1091.62507号 ·doi:10.1016/S0304-4076(00)00076-2
[6] Foster,D.和George,E.(1994年)。“多元回归的风险通货膨胀标准。”统计年鉴, 22(4): 1947-1975. ·Zbl 0829.62066号 ·doi:10.1214/aos/1176325766
[7] Gao,C.、van der Vaart,A.W.和Zhou,H.H.(2015)。“贝叶斯结构线性模型的一般框架。”arXiv公司, 1506.02174: 1-44. ·Zbl 1471.62241号 ·doi:10.1214/19-AOS1909
[8] Johnson,V.和Rossell,D.(2010年)。“关于使用非局部先验密度进行默认贝叶斯假设检验。”英国皇家统计学会学报B, 72: 143-170. ·Zbl 1411.62019年 ·文件编号:10.1111/j.1467-9868.2009.00730.x
[9] Johnson,V.和Rossell,D.(2012年)。“高维设置中的贝叶斯模型选择。”美国统计协会杂志, 24(498): 649-660. ·Zbl 1261.62024号 ·doi:10.1080/01621459.2012.682536
[10] Martin,R.,Mess,R.和Walker,S.G.(2017年)。“稀疏高维线性模型中的经验Bayes后验浓度。”伯努利,23(3):1822-1847·Zbl 1450.62085号 ·doi:10.3150/15-BEJ797
[11] Müller,P.、Parmigiani,G.、Robert,C.和Rousseau,J.(2004)。“多重测试的最佳样本量:基因表达微阵列案例。”美国统计协会杂志,99(468):990-1001·Zbl 1055.62127号 ·doi:10.1198/0162145000001646
[12] Narisetty,N.和He,X.(2014)。“具有收缩和扩散先验的贝叶斯变量选择。”统计年鉴, 42(2): 789-817. ·Zbl 1302.62158号 ·doi:10.1214/14-AOS1207
[13] Papaspiliopoulos,O.和Rossell,D.(2017年)。“贝叶斯块-对角变量选择和模型平均。”生物特征,104(2):343-359·Zbl 1506.62339号 ·doi:10.1093/biomet/asx019
[14] Petrone,S.、Rousseau,J.和Scricciolo,C.(2014)。“贝叶斯和经验贝叶斯:它们合并了吗?”生物特征, 101(2): 285-302. ·Zbl 1452.62148号 ·doi:10.1093/biomet/ast067
[15] Rockova,V.和van der Pas,S.(2017年)。“贝叶斯回归树及其集合的后验集中。”arXiv公司, 1708.08734: 1-40. ·Zbl 1459.62057号 ·doi:10.1214/19-AOS1879
[16] Rossell,D.、Abril,O.和Bhattacharya,A.(2020年)。“可扩展模型选择的近似拉普拉斯近似值。”arXiv公司, 2012.07429: 1-72.
[17] Rossell,D.和Telesca,D.(2017年)。“高维估计的非对数先验。”美国统计协会杂志, 112: 254-265. ·doi:10.1080/01621459.2015.1130634
[18] Rossell,D.(2021)。“后验模型概率集中与归一化\[{L_0}\]准则”补充材料贝叶斯分析. ·doi:10.1214/21-BA1262SUPP文件
[19] Schwarz,G.(1978年)。“估算模型的维度。”统计年刊, 6: 461-464. ·Zbl 0379.62005年 ·doi:10.1214/aos/1176344136
[20] Scott,J.和Berger,J.(2010年)。“变量选择问题中的贝叶斯和经验贝叶斯多重性调整。”统计年鉴, 38(5): 2587-2619. ·Zbl 1200.62020年 ·doi:10.1214/10-AOS792
[21] Shin,M.、Bhattacharya,A.和Johnson,V.(2018年)。“在超高维环境中使用非局部先验密度的可扩展贝叶斯变量选择。”中国统计局, 28(2): 1053-1078. ·Zbl 1390.62125号
[22] Wainwright,M.(2019年)。高维统计:一个非渐近的观点第48卷。剑桥大学出版社·Zbl 1457.62011年 ·doi:10.1017/9781108627771
[23] Wainwright,M.J.(2009)。“高维和噪声环境中稀疏恢复的信息理论限制。”IEEE信息理论汇刊,55(12):5728-5741·Zbl 1367.94106号 ·doi:10.1109/TIT.2009.2032816
[24] Yang,Y.和Pati,D.(2017)。“贝叶斯模型选择一致性和预言不等式与难以处理的边际似然。”arXiv公司, 1701.00311: 1-38.
[25] Yang,Y.、Wainwright,M.和Jordan,M.(2016)。“关于高维贝叶斯变量选择的计算复杂性。”统计年鉴, 44(6): 2497-2532 ·Zbl 1359.62088号 ·doi:10.1214/15-AOS1417
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。