×

层次贝叶斯、最大后验估计量和极小极大凹惩罚似然估计。 (英语) Zbl 1337.62172号

摘要:长期以来,由正态分布的尺度混合构造的先验在决策理论和收缩估计中发挥着重要作用。本文证明了在这种先验下构造的最大后验估计量与Zhang的极小极大凹惩罚估计量之间的等价性。这种等价性和相关的多元推广直接源于极小极大凹罚函数作为简单凸函数的Moreau包络的有趣表示。相应的边际先验分布下的最大后验估计是Johnstone和Silverman提出的拟柯西分布的推广,它使得阈值估计具有优良的频率风险特性。

MSC公司:

2007年6月62日 岭回归;收缩估计器(拉索)
62C20个 统计决策理论中的Minimax过程
65C60个 统计中的计算问题(MSC2010)
2015年1月62日 贝叶斯推断
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Abramowitz,M.和Stegun,I.(1970年)。数学函数手册。多佛出版公司,纽约·Zbl 0171.38503号
[2] Antoniadis,A.和Fan,J.(2001)。小波逼近的正则化。《美国统计杂志》。协会96 939-955·Zbl 1072.62561号 ·doi:10.1198/016214501753208942
[3] Armagan,A.、Dunson,D.和Lee,J.(2011)。广义双Pareto收缩。ArXiv电子打印·Zbl 1259.62061号
[4] Baricz,A.(2008)。米尔斯比率:单调模式和函数不等式。数学杂志。分析。适用。340 1362-1370. ·Zbl 1138.60022号 ·doi:10.1016/j.jmaa.2007.09.063
[5] J.O.Berger和C.Robert(1990年)。多元正态均值的主观层次Bayes估计:在频率学家界面上。安。统计师。18 617-651. ·Zbl 0719.62043号 ·doi:10.1214/aos/1176347619
[6] Berger,J.O.和Strawderman,W.E.(1996)。层次先验的选择:正常均值估计中的可容许性。安。统计师。24 931-951. ·Zbl 0865.62004号 ·doi:10.1214/aos/1032526950
[7] Berger,J.O.、Strawderman,W.E.和Tang,D.(2005)。正态层次模型中超验元的后验适当性和可容许性。安。统计师。33 606-646. ·Zbl 1068.62005号 ·doi:10.1214/009053605000000075
[8] Box,G.E.P.和Tiao,G.C.(1992年)。《统计分析中的贝叶斯推断》(1973年版,威利经典图书馆)。约翰·威利父子公司,纽约·Zbl 0271.62044号
[9] Breheny,P.和Huang,J.(2009年)。二级变量选择的惩罚方法。统计接口2 369-380·兹比尔1245.62034
[10] Breheny,P.和Huang,J.(2011)。非凸惩罚回归的坐标下降算法及其在生物特征选择中的应用。附录申请。统计数字5 232-253·Zbl 1220.62095号 ·doi:10.1214/10-AOAS388
[11] Bruce,A.G.和Gao,H.Y.(1996)。S-Plus的应用小波分析。纽约州施普林格·Zbl 0857.65147号
[12] Carvalho,C.M.、Polson,N.G.和Scott,J.G.(2010年)。稀疏信号的马蹄形估计器。生物特征97 465-480·Zbl 1406.62021号
[13] Chen,M.-H.,Ibrahim,J.G.和Shao,Q.-M.(2006)。Cox回归模型的后验特性和计算及其对缺失协变量的应用。Biometrika 93第791-807页·Zbl 1436.62476号
[14] Chen,M.-H.和Shao,Q.-M.(2001)。二分法量子响应模型后验分布的适用性。《美国数学学会学报》第129页,第293-302页·Zbl 1008.62027号 ·doi:10.1090/S0002-9939-00-05513-1
[15] Cox,D.R.(1972)。回归模型和寿命表。英国皇家统计学会杂志。B辑(方法学)34,第187-220页·Zbl 0243.62041号
[16] Fan,J.和Li,R.(2001)。基于非冲突惩罚似然的变量选择及其Oracle属性。《美国统计杂志》。协会96 1348-1360·Zbl 1073.62547号 ·doi:10.1198/016214501753382273
[17] Fordrinier,D.、Strawderman,W.E.和Wells,M.T.(1998年)。关于贝叶斯极小极大估计的构造。安。统计师。26 660-671. ·Zbl 0929.62004号 ·doi:10.1214/aos/1028144853
[18] Gao,H.和Bruce,A.G.(1997年)。波浪收缩,收缩牢固。统计师。Sinica 7 855-874号·Zbl 1067.62529号
[19] Gomez-Sanchez-Manzano,E.、Gomez-Villegas,M.A.和Marin,J.M.(2008年)。多元指数幂分布是正态分布与贝叶斯应用的混合。通信统计三。方法。37972-985·Zbl 1135.62041号 ·doi:10.1080/03610920701762754
[20] Griffin,J.E.和Brown,P.J.(2007)。贝叶斯自适应拉索与非凸惩罚。华威大学统计系技术报告·Zbl 1335.62047号
[21] Griffin,J.E.和Brown,P.J.(2010)。回归问题中正态伽马先验分布的推断。贝叶斯分析6 171-188·Zbl 1330.62128号
[22] Hans,C.(2009年)。贝叶斯-拉索回归。生物特征96 835-845·Zbl 1179.62038号 ·doi:10.1093/biomet/asp047
[23] Johnstone,I.M.和Silverman,B.W.(2004)。干草堆中的针和稻草:可能稀疏序列的经验Bayes估计。安。统计师。32 1594-1649. ·Zbl 1047.62008年 ·数字对象标识代码:10.1214/00905360400000030
[24] Kass,R.E.和Wasserman,L.(1996年)。通过形式规则选择先验分布。《美国统计协会杂志》91,第1343-1370页·Zbl 0884.62007号 ·doi:10.2307/2291752
[25] Mazumder,R.、Friedman,J.H.和Hastie,T.(2011年)。SparseNet:使用非凸惩罚协调下降。美国统计协会杂志106 1125-1138·兹比尔1229.62091 ·doi:10.1198/jasa.2011.tm09738
[26] Park,T.和Casella,G.(2008)。贝叶斯拉索。《美国统计杂志》。协会103 681-686·Zbl 1330.62292号
[27] Polson,N.G.和Scott,J.G.(2011年)。全球收缩,局部行动:稀疏贝叶斯正则化和预测(与讨论)。贝叶斯统计9(J.M.Bernardo、M.J.Bayarri、J.O.Berger、A.P.Dawid、D.Heckerman和M.West编辑)501-525。牛津大学出版社。
[28] Robert,C.P.(2007)。贝叶斯选择。纽约施普林格-弗拉格·Zbl 1129.62003号
[29] Rockafellar,R.T.和Wets,R.J.B.(2004)。变分分析。柏林斯普林格·弗拉格·Zbl 0888.49001号
[30] 桑福德,M.R.(1953)。关于Mill比率和相关函数的一些不等式。安。数学。统计师。24 130-132. ·Zbl 0050.13503号 ·doi:10.1214/网址/117729093
[31] Schifano,E.D.(2010年)。康奈尔大学惩罚评估博士论文主题。
[32] Schifano,E.D.、Strawderman,R.L.和Wells,M.T.(2010年)。非光滑惩罚目标函数的优化最小化算法。电子。《美国联邦法律大全》第4卷第1258-1299页·Zbl 1267.65009号
[33] 斯特劳德曼,W.E.(1971)。正态多元正态分布的恰当Bayes极小极大估计。安。数学。统计师。42 385-388. ·Zbl 0222.62006号 ·doi:10.1214/aoms/1177693528
[34] Strawderman,R.L.和Wells,M.T.(2012年)。关于层次先验规范和惩罚可能性。贝叶斯分析和统计决策理论的当代发展:威廉·斯特劳德曼的Festricht,(D.Fourdrinier、E.Marchand和A.Ruhkin编辑)8 154-180。加利福尼亚州海沃德数理统计研究所·Zbl 1326.62159号
[35] Takada,Y.(1979年)。Stein的正部分估计和Bayes估计。Ann.Inst.统计。数学。31 177-183. ·Zbl 0447.62010号 ·doi:10.1007/BF02480275
[36] Tibshirani,R.(1996)。通过套索进行回归收缩和选择。J.R.统计。Soc.B 58 267-288号·Zbl 0850.62538号
[37] Tipping,M.E.(2001)。稀疏贝叶斯学习和相关向量机。J.马赫。学习。第211-244号决议·兹比尔0997.68109 ·doi:10.1162/15324430152748236
[38] Yuan,M.和Lin,Y.(2006)。分组变量回归中的模型选择和估计。J.R.统计。Soc.B 68 49-67·Zbl 1141.62030号 ·doi:10.1111/j.1467-9868.2005302.x
[39] Zhang,C.-H.(2010)。Minimax凹惩罚下的近似无偏变量选择。安。统计师。38 894-942·Zbl 1183.62120号 ·doi:10.1214/09-AOS729
[40] Zlobec,S.(2003)。在连续优化中估计对流器。数学。通信8 129-137·Zbl 1053.90123号
[41] Zou,H.和Li,R.(2008)。非凹陷惩罚似然模型中的一步稀疏估计。安。统计师。36 1509-1533. ·Zbl 1142.62027号 ·doi:10.1214/0090536007000000802
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。