×

惩罚分位数和复合分位数回归的高级算法。 (英语) Zbl 1505.62320号

摘要:在本文中,我们讨论了一系列稳健的分位数和复合分位数回归的高维回归模型,包括有无变量选择的自适应拉索惩罚。我们重新定义了这些分位数回归问题,并通过应用交替方向乘数法(ADMM)、优化最小化(MM)和坐标下降(CD)算法获得了估计量。我们的新方法解决了缺乏公开可用的(复合)分位数回归方法的问题,特别是对于高维数据,无论是否使用正则化。通过仿真研究,我们证明了对适用于各种数据设置的不同算法的需求,我们在cqrReg公司为了进行比较,我们还介绍了广泛使用的内点(IP)公式,并针对现有的IP算法测试了我们的方法quantreg公司包裹。我们的模拟研究表明,我们的每一种方法,特别是MM和CD,分别在不同的环境中表现出色,例如在大数据集或高维数据集中,并且优于目前在quantreg公司ADMM方法在其可并行化和可扩展性方面为未来的发展提供了具体的前景。

MSC公司:

62-08 统计问题的计算方法
62G08号 非参数回归和分位数回归
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] 博伊德,S。;北卡罗来纳州帕里赫。;朱,E。;Eckstein,J.,《通过交替方向乘数法进行分布式优化和统计学习》,《发现趋势——马赫学习》,3,1,1-122(2011)·Zbl 1229.90122号 ·doi:10.1561/220000016
[2] 陈,C。;Wei,Y.,分位数回归的计算问题。Sankhy(\bar{a}),印度J Stat,67,2,399-417(2005)·Zbl 1192.62114号
[3] Dempster,A。;莱尔德,N。;Rubin,D.,通过EM算法获得不完整数据的最大似然,J R Stat Soc:Ser B(Methodol),39,1,1-38(1976)·Zbl 0364.62022号
[4] Eddelbuettel,D。;François,R.,Rcpp:无缝R和C++集成,J Stat Softw,40,8,1-18(2011)·doi:10.18637/jss.v040.2008
[5] Eddelbuettel,D。;Sanderson,C.,RcppArmadillo:使用高性能C++线性代数加速R,《计算统计数据分析》,711054-1063(2014)·Zbl 1471.62055号 ·doi:10.1016/j.csda.2013.02.005
[6] 范,J。;Li,R.,《基于非一致惩罚似然的变量选择及其预言属性》,美国统计协会,96,1,1348-1360(2001)·Zbl 1073.62547号 ·doi:10.1198/016214501753382273
[7] 弗里德曼,J。;哈斯蒂,T。;Höfling,H。;Tibshirani,R.,Pathwise坐标优化,Ann Appl Stat,1,2,302-332(2007)·Zbl 1378.90064号 ·doi:10.1214/07-AOAS131
[8] 弗里德曼,J。;哈斯蒂,T。;Tibshirani,R.,通过坐标下降广义线性模型的正则化路径,J Stat Softw,31,1,1-22(2010)
[9] 加贝,D。;Mercier,B.,通过有限元近似求解非线性变分问题的对偶算法,Comp Math Appl,2,1,17-40(1976)·Zbl 0352.65034号 ·doi:10.1016/0898-1221(76)90003-1
[10] 高J,孔L(2015)cqrReg:分位数,复合分位数回归和正则化版本。https://CRAN.R-project.org/package=cqrReg,R软件包版本1.2。2017年访问
[11] 顾毅。;范,J。;Kong,L。;马,S。;Zou,H.,ADMM用于高维稀疏惩罚分位数回归,Technometrics,60,3,319-331(2018)·doi:10.1080/00401706.2017.1345703
[12] 他,Q。;Kong,L。;Wang,Y。;王,S。;Chan,T。;Holland,E.,异质稀疏下的正则分位数回归及其在数量遗传性状中的应用,《计算统计数据分析》,95222-239(2016)·Zbl 1468.62076号 ·doi:10.1016/j.csda.2015.10.007
[13] Hestenes,M.,乘数和梯度方法,《最优化理论应用杂志》,4,5,303-320(1969)·Zbl 0174.20705号 ·doi:10.1007/BF00927673
[14] 亨特,D。;Lange,K.,通过MM算法进行分位数回归,J Compute Gr Stat,9,1,60-77(2000)
[15] 亨特,D。;Lange,K.,MM算法教程,美国国家统计局,58,1,30-37(2004)·doi:10.1198/0003130042836
[16] 亨特,D。;Li,R.,《使用MM算法的变量选择》,《Ann Stat》,33,4,1617-1642(2005)·Zbl 1078.62028号 ·doi:10.1214/009053605000000200
[17] Kai,B。;李,R。;Zou,H.,局部复合分位数回归平滑:局部多项式回归的一种有效且安全的替代方法,J R Stat Soc:Ser B(Stat Methodol),72,1,49-69(2010)·Zbl 1411.62101号 ·文件编号:10.1111/j.1467-9868.2009.00725.x
[18] Koenker,R.,Quantile回归(2005),剑桥:剑桥大学出版社,剑桥·Zbl 1111.62037号 ·doi:10.1017/CBO9780511754098
[19] Koenker R(2017)《量化:分位数回归》。https://CRAN.R-project.org/package=quantreg,R包版本5.33。2017年访问·Zbl 1111.62037号
[20] Koenker,R。;Bassett,G.,回归分位数,计量经济学,46,1,33-50(1978)·Zbl 0373.62038号 ·doi:10.2307/1913643
[21] Koenker,R。;切尔诺朱科夫,V。;何,X。;Peng,L.,《分位数回归手册》(2018),博卡拉顿:CRC出版社,博卡拉顿·Zbl 1395.62003号
[22] Kong L,Shu H,Heo G,He QC(2015)二元分位数变系数模型的估计。arXiv:1511.02552
[23] 李,D。;Li,R.,Harris递归Markov过程的局部复合分位数回归平滑,《经济学杂志》,194,1,44-56(2016)·Zbl 1431.62397号 ·doi:10.1016/j.jeconom.2016.04.002
[24] Lin Z,Chen M,Ma Y(2010)精确恢复受损低秩矩阵的增广拉格朗日乘子方法。arXiv:1109.0367
[25] 罗,ZQ;Tseng,P.,关于凸可微极小化的坐标下降法的收敛性,J Optim Theory Appl,72,1,7-35(1992)·Zbl 0795.90069号 ·doi:10.1007/BF00939948
[26] Mehrotra,S.,《关于原对偶内点方法的实现》,SIAM J Optim,2,4,575-601(1992)·Zbl 0773.90047号 ·doi:10.1137/0802028年
[27] 奥尔特加,J。;Rheinboldt,W.,多变量非线性方程的迭代解(1970),纽约和伦敦:学术出版社,纽约和英国·Zbl 0241.65046号
[28] Tibshirani,R.,通过套索进行回归收缩和选择,J R Stat Soc:Ser B(Methodol),58,1,267-288(1996)·Zbl 0850.62538号
[29] Tseng,P.,不可微极小化的块坐标下降法的收敛性,最优化理论应用杂志,109,3475-494(2001)·Zbl 1006.65062号 ·doi:10.1023/A:1017501703105
[30] 维多尔,D。;比尔扎,C。;Larrañaga,P.,关于\({五十} _1个\)回归,国际统计版次,81,3,361-387(2013)·Zbl 1416.62400号 ·doi:10.1111/insr.12023
[31] Wu,T。;Lange,K.,套索惩罚回归的坐标下降算法,Ann Appl Stat,2,1,224-244(2008)·Zbl 1137.62045号 ·doi:10.1214/07-AOAS147
[32] Wu,Y。;Liu,Y.,分位数回归中的变量选择,Stat Sin,19,2,801-817(2009)·Zbl 1166.62012年
[33] 徐,Q。;邓,K。;江,C。;孙,F。;Huang,X.,复合分位数回归神经网络及其应用,Expert Syst Appl,76129-139(2017)·doi:10.1016/j.eswa.2017.01.054
[34] Yu,L。;Lin,N.,《大数据中惩罚分位数回归的ADMM》,《国际统计评论》,85,3,494-518(2017)·Zbl 07763567号 ·doi:10.1111/insr.12221
[35] Zhang L,Yu D,Mizera I,Jiang B,Kong L(2017)带多功能预测因子的分位数回归稀疏小波估计。arXiv公司:1706.02353·兹比尔1507.62196
[36] Zou,H.,《自适应套索及其预言属性》,美国统计协会,1011418-1429(2006)·Zbl 1171.62326号 ·doi:10.1198/016214500000735
[37] 邹,H。;袁,M.,复合分位数回归与预言模型选择理论,Ann Stat,36,3,1108-1126(2008)·Zbl 1360.62394号 ·doi:10.1214/07-AOS507
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。