×
Yen，Tso-Jung先生

使用尖峰和平板先验进行变量选择的优化-最小化方法。 （英语） Zbl 1220.62065号

Ann.统计。 39，第3期，1748-1775（2011）.
小结：我们开发了一种方法来对一类贝叶斯回归模型进行MAP估计，其中系数被指定为基于高斯的尖峰和平顶先验。相应优化问题中的目标函数具有拉格朗日形式，回归系数由平方（l{2}）和（l{0}）范数的混合正则化。利用优化最小化技术导出了对（l{0}）范数的严格逼近，并使用坐标下降算法和软阈值方案来搜索近似目标的优化器。仿真研究表明，与其他基准方法相比，该方法可以实现更精确的变量选择。理论结果表明，在正则条件下，即使违反了不可表示条件，也可以建立符号一致性。给出了后验模型一致性和估计一致性的结果，以及对广义线性模型中参数估计的推广。

引用于12文件

MSC公司：

62甲12 多元分析中的估计
2015年1月62日 贝叶斯推断
62J05型 线性回归；混合模型
65K10码 数值优化和变分技术
65C60个 统计中的计算问题（MSC2010）

关键词：

MAP估算;\（l0\）范数;不可再现条件

软件：

稀疏的;格尔姆奈特;EBayesThresh公司
PDF格式BibTeX公司 XML格式引用
\textit{T.-J.Yen}，Ann.Stat.39，No.3，1748--1775（2011；Zbl 1220.62065）
全文： 内政部 arXiv公司

参考文献：

[1] Bickel，P.J.、Ritov，Y.和Tsybakov，A.B.（2009年）。lasso和Dantzig选择器的同时分析。安。统计师。37 1705-1732. ·Zbl 1173.62022号 ·doi:10.1214/08-AOS620
[2] Candés，E.和Tao，T.（2007年）。Dantzig选择器：当p远大于n时的统计估计。35 2313-2351. ·Zbl 1139.62019号 ·doi:10.1214/00905360000001523
[3] Candés，E.J.、Wakin，M.B.和Boyd，s.P.（2008）。通过重加权l1最小化增强稀疏性。J.傅里叶分析。申请。14 877-905. ·Zbl 1176.94014号 ·doi:10.1007/s00041-008-9045-x
[4] Clyde，M.和George，E.I.（2000年）。小波的灵活经验贝叶斯估计。J.R.统计社会服务。B统计方法。62 681-698. ·Zbl 0957.62006号 ·doi:10.1111/1467-9868.00257
[5] Clyde，M.、Ghosh，J.和Littman，M.（2011年）。用于变量选择和模型平均的贝叶斯自适应采样。J.计算。图表。统计师。20 80-101.
[6] Fan，J.和Fan，Y.（2008）。使用特征退火独立性规则的高维分类。安。统计师。36 2605-2637. ·Zbl 1360.62327号 ·doi:10.1214/07-AOS504
[7] Fan，J.和Li，R.（2001）。通过非冲突惩罚似然及其oracle属性进行变量选择。J.Amer。统计师。协会96 1348-1360·兹比尔1073.62547 ·doi:10.1198/016214501753382273
[8] Fan，J.和Lv，J.（2008）。确保超高维特征空间的独立性。J.R.统计社会服务。B统计方法。70 849-911. ·doi:10.1111/j.1467-9868.2008.00674.x
[9] Friedman，J.、Hastie，T.、Hölfing，H.和Tibshirani，R.（2007）。路径坐标优化。附录申请。统计数字1 302-332·Zbl 1378.90064号 ·doi:10.1214/07-AOAS131
[10] Friedman，J.、Hastie，T.和Tibshirani，R.（2010）。广义线性模型的坐标下降正则化路径。J.统计。软件33 1-22。
[11] Genkin，A.、Lewis，D.D.和Madigan，D.（2007年）。文本分类的大规模贝叶斯逻辑回归。技术计量学49 291-304·doi:10.1198/004017000000245
[12] George，E.I.和Foster，D.P.（2000年）。校准和经验贝叶斯变量选择。生物特征87 731-747·Zbl 1029.62008号 ·doi:10.1093/biomet/87.4.731
[13] George，E.I.和McCulloch，R.E.（1993）。通过吉布斯采样选择变量。J.Amer。统计师。协会88 881-889。
[14] George，E.I.和McCulloch，R.E.（1997）。贝叶斯变量选择方法。统计师。中研院7 339-373·Zbl 0884.62031号
[15] Golub，T.、Slonim，D.、Tamayo，P.、Huard，C.、Gaasenbeek，M.、Mesirov，J.、Coller，H.、Loh，M.和Downing，J.，Caligiuri，M.，Bloomfield，C.和Lander，E.（1999）。《癌症的分子分类：通过基因表达监测进行分类发现和分类预测》，《科学》286 531-537。
[16] Griffin，J.E.和Brown，P.J.（2010）。回归问题中正态伽玛先验分布的推断。贝叶斯分析。5 171-188. ·Zbl 1330.62128号 ·doi:10.1214/10-BA507
[17] Hans，C.（2009年）。贝叶斯套索回归。生物特征96 835-845·Zbl 1179.62038号 ·doi:10.1093/biomet/asp047
[18] Hunter，D.R.和Lange，K.（2004年）。MM算法教程。阿默尔。统计师。58 30-37. ·doi:10.1198/0003130042836
[19] Ishwaran，H.和Rao，J.S.（2005年）。多组微阵列数据的尖峰和板条基因选择。J.Amer。统计师。协会100 764-780·Zbl 1117.62363号 ·doi:10.1198/0162145000000051
[20] Ishwaran，H.和Rao，J.S.（2005年）。尖峰和平板变量选择：频繁和贝叶斯策略。安。统计师。33 730-773. ·Zbl 1068.62079号 ·doi:10.1214/009053604000001147
[21] Johnstone，I.M.和Silverman，B.W.（2005）。小波阈值的经验贝叶斯选择。安。统计师。33 1700-1752. ·Zbl 1078.62005号 ·doi:10.1214/009053605000000345
[22] K.奈特和W.J.傅（2000）。套索型估计量的渐近性。安。统计师。28 1356-1378. ·Zbl 1105.62357号 ·doi:10.1214/aos/1015957397
[23] Li，Q.和Lin，N.（2010）。贝叶斯弹性网。贝叶斯分析。5 151-170. ·Zbl 1330.65026号 ·doi:10.1214/10-BA506
[24] Liang，F.、Paulo，R.、Molina，G.、Clyde，M.A.和Berger，J.O.（2007年）。贝叶斯变量选择的g先验混合。J.Amer。统计师。协会103 410-423·Zbl 1335.62026号 ·doi:10.19198/0162114507000001337
[25] Mazumder，R.、Friedman，J.和Hastie，T.（2011年）。SparseNet：协调下降与非凸惩罚。J.Amer。统计师。协会·Zbl 1229.62091号
[26] McCullagh，P.和Nelder，J.（1989）。广义线性模型。查普曼和霍尔，纽约·Zbl 0744.62098号
[27] Meier，L.、van de Geer，S.和Bühlmann，P.（2008）。该组套索用于逻辑回归。J.R.统计社会服务。B统计方法。70 53-71. ·Zbl 1400.62276号
[28] Meinshausen，N.（2007年）。放松的套索。计算。统计师。数据分析。52 374-393. ·Zbl 1452.62522号
[29] Meinshausen，N.和Bühlmann，P.（2006）。高维图和用套索选择变量。安。统计师。34 1436-1462. ·Zbl 1113.62082号 ·doi:10.1214/0090536000000281
[30] Mitchell，T.J.和Beauchamp，J.J.（1988）。线性回归中的贝叶斯变量选择。J.Amer。统计师。协会83 1023-1032·Zbl 0673.62051号 ·doi:10.2307/2290129
[31] Park，M.Y.和Hastie，T.（2007）。广义线性模型的L1正则化路径算法。J.R.统计社会服务。B统计方法。69 659-677. ·文件编号：10.1111/j.1467-9868.2007.00607.x
[32] Park，T.和Casella，G.（2008）。贝叶斯套索。J.Amer。统计师。协会103 681-686·Zbl 1330.62292号 ·doi:10.1198/016214500000037
[33] Tibshirani，R.（1996）。通过套索回归收缩和选择。J.R.统计社会服务。B统计方法。58 267-288. ·Zbl 0850.62538号
[34] Wu，T.T.和Lange，K.（2008）。套索惩罚回归的坐标下降算法。附录申请。统计数字2 224-244·兹比尔1137.62045 ·doi:10.1214/07-AOAS174支持
[35] Yen，T.-J.（2011）。补充“使用尖峰和平板先验的变量选择优化方法”·兹比尔1220.62065
[36] Yuan，M.和Lin.，Y.（2006）。分组变量回归中的模型选择和估计。J.R.统计社会服务。B统计方法。68 49-67. ·Zbl 1141.62030号 ·doi:10.1111/j.1467-9868.2005302.x
[37] Yuan，M.和Lin，Y.（2007）。关于非负garrotte估计。J.R.统计社会服务。B统计方法。69 143-161. ·Zbl 1120.62052号 ·文件编号：10.1111/j.1467-9868.2007.00581.x
[38] Zhang，C.H.（2010）。极小极大凹惩罚下的几乎无偏变量选择。安。统计师。38 894-942. ·Zbl 1183.62120号 ·doi:10.1214/09-AOS729
[39] Zhao，P.和Yu，B.（2006）。套索的模型选择一致性。J.马赫。学习。第7号决议2541-2564·Zbl 1222.62008年
[40] 邹华（2006）。自适应套索及其oracle属性。J.Amer。统计师。协会101 1418-1429·Zbl 1171.62326号 ·doi:10.1198/016214500000735
[41] Zou，H.和Hastie，T.（2005）。通过弹性网络进行正则化和变量选择。J.R.统计社会服务。B统计方法。67 301-320. ·Zbl 1069.62054号 ·数字对象标识代码：10.1111/j.1467-9868.2005.0050.x
[42] 邹浩和李若明（2008）。非凹陷惩罚似然模型中的一步稀疏估计。安。统计师。36 1509-1533. ·Zbl 1142.62027号 ·doi:10.1214/0090536007000000802
[43] 邹浩和张浩浩（2009）。关于参数个数发散的自适应弹性网。安。统计师。37 1733-1751. ·Zbl 1168.62064号 ·doi:10.1214/08-AOS625
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。