×
阿廷·阿曼根;拉塞尔·扎雷茨基。

通过具有（t）个先验值的自适应收缩进行模型选择。 （英语） Zbl 1226.62019年6月

计算。斯达。 25，第3期，441-461（2010）.
摘要：我们讨论了一种模型选择过程，即自适应脊线选择器，它是从分层贝叶斯参数中导出的，从而产生了一种简单有效的拟合算法。所使用的分层模型类似于未复制的方差分量模型，并导致协变量的加权。我们讨论了这类估值器背后的直觉，并将其作为正则化最小二乘程序进行了研究。虽然最近利用了相关的替代方法来同时拟合和选择回归模型中的变量/特征[M.E.小费，J.马赫。学习。决议1，第3号，211-244（2001年；Zbl 0997.68109号)]这里的扩展表明，在一些重要的情况下，模型选择精度有了很大的提高。我们还将估计器的模型选择性能与套索解和自适应套索解路径提供的性能进行了比较。在随机实验中，我们表明，当基础模型是稀疏模型时，固定的调谐参数选择会导致模型选择精度优于套索和自适应套索的整个解路径。我们提供了该算法的稳健版本，适用于可能存在异常值的情况。

引用于三文件

MSC公司：

2015年1月62日 贝叶斯推断
62-08 统计问题的计算方法

关键词：

弹性网;套索;相关向量机;岭回归;正则化最小二乘;收缩率估计

引文：

Zbl 0997.68109号

软件：

EBayesThresh公司
PDF格式BibTeX公司 XML格式引用
\textit{A.Armagan}和\textit{R.L.Zaretzki}，计算。Stat.25，No.3，441--461（2010；Zbl 1226.62019）
全文： 内政部

参考文献：

[1] Angers JF，Berger JO（1991）可交换平均数的稳健层次贝叶斯估计。加拿大J Stat 19:39–56·Zbl 0719.62047号 ·doi:10.2307/3315535
[2] Bae K，Mallick BK（2004）使用两级分层贝叶斯模型进行基因选择。生物信息学20（18）：3423–3430·doi:10.1093/bioinformatics/bth419
[3] Breiman L（1995）使用非负garrote进行更好的子集回归。技术计量37（4）：373–384·兹比尔0862.62059 ·doi:10.1080/00401706.1995.10484371
[4] Breiman L，Friedman JH（1985）多元回归和相关性的最佳转换估计。美国统计协会杂志80（391）：580-598·Zbl 0594.62044号 ·doi:10.1080/016214591985.10478157
[5] Brown P，Vannucci M，Fearn T（1998）多变量贝叶斯变量选择和预测。J R Stat Soc系列B 60（3）：627–641·Zbl 0909.62022号 ·doi:10.1111/1467-9868.00144
[6] Candes E，Tao T（2007）dantzig选择器：当p远大于n时的统计估计Ann Stat 35（6）：2313–2351·Zbl 1139.62019号 ·doi:10.1214/00905360000001523
[7] Casella G，Moreno E（2006）客观贝叶斯变量选择。美国统计协会期刊101（473）：157–167·Zbl 1118.62313号 ·doi:10.1198/0162145050000000646
[8] Chen MH，Shao QM，Ibrahim JG（2001）贝叶斯计算中的蒙特卡罗方法。柏林施普林格
[9] Chipman H，George EI，McCulloch RE（2001）贝叶斯模型选择的实际实施。IMS演讲笔记–专著系列，第38卷，第65–116页
[10] Efron B，Hastie T，Johnstone I，Tibshirani R（2004）最小角度回归。Ann Stat 32（2）：407–499·Zbl 1091.62054号 ·doi:10.1214/09053604000000067
[11] Fan J，Li R（2001）基于非冲突惩罚似然的变量选择及其预言性质。美国统计协会J Am Stat Assoc 96:1348–1360·兹比尔1073.62547 ·doi:10.1198/016214501753382273
[12] Figueiredo MAT（2003）监督学习的自适应稀疏性。IEEE Trans-Pattern Ana Mach Intell 25:1150–1159·doi:10.1109/TPAMI.2003.1227989
[13] George EI（2000）变量选择问题。美国统计协会J Am Stat Assoc 95:1304–1308·Zbl 1018.62050号 ·doi:10.1080/01621459.2000.10474336
[14] Geweke J（1993）独立学生t线性模型的贝叶斯处理。应用经济学杂志8（S）：S19–40·doi:10.1002/jae.3950080504
[15] Griffen JE，Brown PJ（2007）贝叶斯自适应套索与非凸惩罚。技术报告07-2v2，统计方法研究中心。英国华威大学
[16] Harville DA（1977）方差分量估计和相关问题的最大似然方法。美国统计协会杂志72（358）：320–338·Zbl 0373.62040号 ·doi:10.1080/01621459.1977.10480998
[17] Hoerl AE，Kennard RW（2000）岭回归：非正交问题的有偏估计。技术计量42（1）：80–86·doi:10.1080/0401706.2000.10485983
[18] Johnstone IM，Silverman BW（2005）小波阈值的经验贝叶斯选择。Ann Stat 33:1700–1752年·Zbl 1078.62005号 ·doi:10.1214/009053605000000345
[19] Kiiveri H（2003）当变量数量非常大时，变量选择的贝叶斯方法。IMS课堂讲稿-专题系列40:127–143
[20] Lindley DV，Smith AFM（1972）线性模型的Bayes估计。J R Stat Soc系列B 34（1）：1–41·Zbl 0246.62050号
[21] O'Hagan A（1976），关于后关节和边缘模式。生物特征63（2）：329–333·Zbl 0332.62030号 ·doi:10.1093/biomet/63.2.329
[22] Park T，Casella G（2008）贝叶斯套索。美国统计协会期刊103:681–686·Zbl 1330.62292号 ·doi:10.1198/016214500000037
[23] Smith M，Kohn R（1996）使用贝叶斯变量选择的非参数回归。经济学杂志75（2）：317–343·Zbl 0864.62025号 ·doi:10.1016/0304-4076（95）01763-1
[24] Sorensen D、Gianola D（2002），定量遗传学中的可能性、贝叶斯和MCMC方法。纽约州施普林格·Zbl 1013.62105号
[25] Sun L，Hsu JSJ，Guttman I，Leonard T（1996）方差分量模型的贝叶斯方法。美国统计协会杂志91（434）：743–752·Zbl 0885.62082号 ·doi:10.1080/01621459.1996.10476942
[26] ter Braak CJ（2005）具有不适当方差先验的贝叶斯sigmoid收缩及其在小波去噪中的应用。计算统计数据分析51（2）：1232–1242·Zbl 1157.62357号 ·doi:10.1016/j.csda.2006.06.011
[27] Tibshirani R（1996）通过套索回归收缩和选择。J R Stat Soc系列B 58（1）：267–288·Zbl 0850.62538号
[28] Tipping ME（2001）稀疏贝叶斯学习和相关向量机。J Mach学习研究1：211–244·Zbl 0997.68109号
[29] 袁M，林毅（2005）线性模型中的有效经验贝叶斯变量选择和估计。J Am Stat Assoc 100（472）：1215–1225·兹比尔1117.62453 ·doi:10.1198/0162145005000367
[30] 赵鹏，于波（2006）关于套索的模型选择一致性。J Mach学习研究7:2541–2563·Zbl 1222.62008年
[31] Zou H（2006）自适应套索及其预言性质。美国统计协会J Am Stat Assoc 101:1418–1429·Zbl 1171.62326号 ·doi:10.1198/016214500000735
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。