×

高斯位置和尺度模型梯度增强中的自适应步长选择。 (英语) Zbl 1505.62439号

概要:基于模型的boosting算法的调整主要依赖于迭代次数,而步长固定在预定义值。对于具有多个预测因子的复杂模型,例如位置、规模和形状的广义加性模型(GAMLSS),预测因子的不平衡更新,其中某些分布参数的更新频率高于其他预测因子,这可能是一个问题,它阻止了一些子模型在有限数量的增强迭代中被适当地拟合。我们提出了一种在高斯位置和尺度模型的非周期提升算法中使用自适应步长(ASL)确定的方法,作为更广泛类别的GAMLSS的一个重要特例,以防止这种不平衡。此外,我们讨论了ASL的性质,并导出了ASL半解析形式,避免了手动选择搜索间隔和数值优化以找到最佳步长,从而提高了计算效率。在两个模拟和两个应用中,我们展示了与惩罚最大似然法和固定步长升压法相比,所提方法在高斯位置和尺度模型中的竞争行为,特别是在方差和/或变量大于观测值的情况下。此外,ASL的基本概念也适用于整个GAMLSS框架和具有多个预测因子的其他模型,如零膨胀计数模型,并对(高斯)加性模型的更简单特殊情况下步长的合理默认值的选择提出了见解。

MSC公司:

62-08 统计学相关问题的计算方法
62G08号 非参数回归和分位数回归
62J12型 广义线性模型(逻辑模型)
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Brent RP(2013)无导数最小化算法。Courier公司·Zbl 1009.90133号
[2] Bühlmann,P.,《高维线性模型的提升》,Ann Stat,34,2559-583(2006)·Zbl 1095.62077号 ·doi:10.1214/009053600000092
[3] Bühlmann,P。;Hothorn,T.,Boosting algorithms:正则化、预测和模型拟合,《统计科学》,22,4,477-505(2007)·Zbl 1246.62163号
[4] Bühlmann,P。;Yu,B.,《L2损失带来的提振》,美国统计协会期刊,98,462,324-339(2003)·Zbl 1041.62029号 ·doi:10.198/01621403000125
[5] Bühlmann,P。;Kalisch,M。;Meier,L.,《着眼于生物学应用的高维统计》,《年度统计应用回顾》,第1期,第255-278页(2014年)·doi:10.1146/annurev-statistics-022513-115545
[6] Dezeure,R。;Bühlmann,P。;Meier,L。;Meinshausen,N.,《高维推断:置信区间、p值和R软件HDI》,《统计科学》,30,4,533-558(2015)·Zbl 1426.62183号 ·doi:10.1214/15-STS527
[7] Fahrmeir,L。;Kneib,T.,纵向、空间和事件历史数据的贝叶斯平滑和回归(2011),牛津:牛津大学出版社,牛津·Zbl 1249.62003号 ·doi:10.1093/acprof:oso/9780199533022.001.001
[8] 弗里德曼,J。;哈斯蒂,T。;Tibshirani,R.,《加性逻辑回归:助推的统计观点》(作者进行了讨论和反驳),Ann Stat,28,2337-407(2000)·Zbl 1106.62323号 ·doi:10.1214/aos/1016218223
[9] 弗里德曼,J。;哈斯蒂,T。;Tibshirani,R.,通过坐标下降广义线性模型的正则化路径,J Stat Softw,33,1,1-22(2010)·doi:10.18637/jss.v033.i01
[10] Friedman,JH,《贪婪函数近似:梯度提升机》,《Ann Stat》,29,5,1189-1232(2001)·兹比尔1043.62034 ·doi:10.1214/aos/1013203451
[11] 哈斯蒂,T。;泰勒,J。;Tibshirani,R。;Walther,G.,《正向分段回归与单调套索》,《Electr J Stat》,第1期,第1-29页(2007年)·Zbl 1306.62176号
[12] 赫普,T。;施密德,M。;O.盖菲勒。;Waldmann,E。;Mayr,A.,《正则回归方法——梯度增强法和拉索法的比较》,《医学方法》,55,5,422-430(2016)·文件编号:10.3414/ME16-01-0033
[13] 赫普,T。;施密德,M。;Mayr,A.,使用线性基础学习者的增强位置和尺度模型的显著性检验,国际生物统计杂志,15,1,20180110(2019)·doi:10.1515/ijb-2018-0110
[14] 霍夫纳,B。;Mayr,A。;罗宾佐诺夫,N。;Schmid,M.,《R中基于模型的增强:使用R包mboost的实践教程》,《计算统计》,29,1-2,3-35(2014)·Zbl 1306.65069号 ·doi:10.1007/s00180-012-0382-5
[15] 霍夫纳,B。;Boccuto,L。;Göker,M.,《在高维情况下控制错误发现:通过稳定性选择增强》,BMC Bioinf,16,1,144(2015)·doi:10.1186/s12859-015-0575-3
[16] 霍夫纳,B。;Mayr,A。;Schmid,M.,gamboostlss:GAMLSS框架中模型构建和变量选择的R包,J Stat Softw Articles,74,1,1-31(2016)
[17] Hofner B、Mayr A、Fenske N、Schmid M(2018)《gamboostLSS:GAMLSS模型的提升方法》。R包版本2.0-1
[18] Hothorn,T。;Buehlmann,P。;Kneib,T。;施密德,M。;Hofner,B.,基于模型的增压2.0,J Mach Learn Res,112109-2113(2010)·Zbl 1242.68002号
[19] Hothorn,T.公司。;穆勒,J。;施罗德,B。;Kneib,T。;Brandl,R.,《物种分布的环境、空间和时空成分分解》,Ecol Monogr,81,2,329-347(2011)·doi:10.1890/10-0602.1
[20] Hothorn T、Buehlmann P、Kneib T、Schmid M、Hofner B(2018)《基于模型的助推》。R包版本2.9-1
[21] Kohavi,R.,《精度估计和模型选择的交叉验证和引导研究》,Ijcai,14,2,1137-1145(1995)
[22] Mayr,A。;北芬斯克。;霍夫纳,B。;Kneib,T。;Schmid,M.,高维数据位置、规模和形状的广义加性模型——基于增强的灵活方法,J R Stat Soc Ser C Appl Stat,61,3,403-427(2012)·文件编号:10.1111/j.1467-9876.2011.01033.x
[23] 明绍森,N。;Bühlmann,P.,稳定性选择,J R Stat Soc Ser B Stat Methodol,72,4,417-473(2010)·Zbl 1411.62142号 ·文件编号:10.1111/j.1467-9868.2010.00740.x
[24] 里格比,RA;Stasinopoulos,DM,位置、规模和形状的广义加性模型,J R Stat Soc Ser C Appl Stat,54,3,507-554(2005)·Zbl 1490.62201号 ·doi:10.1111/j.1467-9876.2005.00510.x
[25] Ripley,BD,在大类模型中选择,方法模型统计(2004)·Zbl 1314.62216号 ·doi:10.1142/9781860945410_0007
[26] Stasinopoulos,D。;Rigby,R.,《R,J Stat Softw Articles,23,7,1-46》(2007)中位置尺度和形状的广义加性模型(GAMLSS)
[27] Stasinopoulos D,Rigby R,Heller G,Voudouris V,De Bastiani F(2017)灵活回归和平滑:在R.Chapman和Hall/CRC中使用GAMLSS
[28] 托马斯·J。;Mayr,A。;Bischl,B。;施密德,M。;A.史密斯。;Hofner,B.,《分布回归的梯度增强:通过非周期更新进行更快的调整和改进的变量选择》,《统计计算》,28,3,673-687(2018)·Zbl 1384.62139号 ·doi:10.1007/s11222-017-9754-6
[29] 张,T。;Yu,B.,《提前停止促进:收敛性和一致性》,《Ann Stat》,33,4,1538-1579(2005)·兹比尔1078.62038 ·doi:10.1214/009053605000000255
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。