×

完整扩展最小角回归。 (英语) Zbl 1458.62152号

摘要:统计学研究的主要问题之一是模型的拟合。理想情况下,我们希望用尽可能少的参数解释一个大型数据集。已经有无数次尝试将这一过程自动化。最值得注意的是,最小角度回归算法(LARS)是一种计算效率高的算法,它对线性模型的协变量进行排序。利用指数族流形作为对偶平坦流形的性质,将该算法进一步推广到广义线性模型中的一类分布。然而,该扩展假设观测值联合分布的归一化常数易于计算。通常情况并非如此,例如,规范化常数可能包含复杂的积分。如果归一化常数满足完整系统,即具有有限维解空间的线性偏微分方程系统,我们可以绕过这个问题。本文对完整梯度法进行了改进,并将其添加到扩展的LARS算法中。我们将其称为完整扩展最小角回归算法(HELARS)。该算法是使用统计软件R实现的,并用实际和模拟数据集进行了测试。

MSC公司:

62J12型 广义线性模型(逻辑模型)
62-08 统计问题的计算方法

软件:

汞Rgithub你好
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Agresti,A.,线性和广义线性模型的基础。《概率统计中的威利级数》(2015),霍博肯:威利·Zbl 1309.62001号
[2] 安东尼亚迪斯,A。;Gijbels,I。;Verhasselt,A.,《使用p样条曲线的加性模型中的变量选择》,《技术计量学》,54,4,425-438(2012)·doi:10.1080/00401706.2012.726000
[3] 阿舍尔,U.M.,格雷夫,C.:数值方法的第一门课程。收录于:计算科学与工程,第7卷。费城工业与应用数学学会(SIAM)(2011年)。数字对象标识代码:10.1137/1.9780898719987·Zbl 1326.65001号
[4] 奥古利亚罗,L。;米诺,AM;Wit,EC,《微分几何最小角回归:稀疏广义线性模型的微分几何方法》,J.R.Stat.Soc.Ser。B.统计方法。,75, 3, 471-498 (2013) ·Zbl 1411.62214号 ·doi:10.1111/rssb.12000
[5] JR多曼德;Prince,PJ,嵌入式Runge-Kutta公式家族,J.Compute。申请。数学。,6, 1, 19-26 (1980) ·Zbl 0448.65045号 ·doi:10.1016/0771-050X(80)90013-3
[6] 埃夫隆,B。;哈斯蒂,T。;约翰斯通,I。;Tibshirani,R.,《最小角度回归》,《Ann.Stat.》,32,2,407-499(2004)·Zbl 1091.62054号 ·doi:10.1214/009053604000000067
[7] Härkönen,M.:完整扩展LARS R实现。https://github.com/haerski/HELARS网址 (2019)
[8] Hayakawa,J。;Takemura,A.,通过完整梯度下降估计指数多项式分布,Commun。统计理论方法,45,23,6860-6882(2016)·Zbl 1349.60013号 ·doi:10.1080/03610926.2014.968735
[9] Hibi,T.(编辑):Gröbner Bases:统计学和软件系统。Springer,东京(2013)。doi:10.1007/978-4-431-54574-3·Zbl 1282.13003号
[10] Hirose,Y.,Komaki,F.:基于对偶平坦空间的信息几何的最小角度回归的扩展。J.计算。图表。《统计》第19(4)卷,第1007-1023页(2010年)。doi:10.1198/jcgs.2010.09064。在线提供补充材料
[11] Hirose,Y。;Komaki,F.,基于高斯图形模型对偶平坦空间几何的边选择,统计计算。,23, 6, 793-800 (2013) ·Zbl 1322.62051号 ·doi:10.1007/s11222-012-9347-3
[12] Hirose,Y。;Komaki,F.,基于嵌套几何的列联表模型的估计程序,J.Jpn。Stat.Soc.,45,1,57-75(2015)·Zbl 1341.62151号 ·doi:10.14490/jjss.45.57
[13] Hyvärinen,A.,通过分数匹配估计非标准化统计模型,J.Mach。学习。第6695-709号决议(2005年)·Zbl 1222.62051号
[14] Koyama,T。;Takemura,A.,用完整梯度法计算正态概率,Jpn。J.Ind.申请。数学。,32, 187-204 (2015) ·Zbl 1317.32016号 ·doi:10.1007/s13160-015-0166-8
[15] McCullagh,P.,Nelder,J.A.:广义线性模型。统计学和应用概率专著。查普曼和霍尔,伦敦(1989年)。doi:10.1007/9781-4899-3242-6。第二版[MR0727836]·兹比尔074462098
[16] Minka,T.:用于统计的新旧矩阵代数(1997)。https://www.microsoft.com/en-us/research/publication/old-new-matrix-algebra-useful-statistics网站/
[17] Nakayama,H。;西山,K。;诺罗,M。;Ohara,K。;Sei,T。;北高山。;Takemura,A.,《全息梯度下降及其在Fisher-Bingham积分中的应用》,高级应用。数学。,47, 3, 639-658 (2011) ·Zbl 1226.90137号 ·doi:10.1016/j.aam.2011.03.001
[18] Oaku,T.,《(b)-函数、限制和(D)-模的代数局部上同调群的算法》,高级应用。数学。,第19页,第1页,第61-105页(1997年)·Zbl 0938.32005号 ·doi:10.1006/aama.1997.0527
[19] 停车,MY;Hastie,T.,广义线性模型的(L_1)正则化路径算法,J.R.Stat.Soc.Ser。B统计方法。,69, 4, 659-677 (2007) ·Zbl 07555370号 ·文件编号:10.1111/j.1467-9868.2007.00607.x
[20] M.帕里。;阿联酋Dawid;Lauritzen,S.,《正确的地方评分规则》,《Ann.Stat.》,40,1,561-592(2012)·Zbl 1246.62011年 ·doi:10.1214/12-AOS971
[21] R核心团队:R:统计计算的语言和环境。R统计计算基金会,维也纳(2017)。https://www.R-project.org/
[22] Takayama,N.,Koyama,T.,Sei,T.、Nakayama、H.、Nishiyama,K.:hgm:完整梯度法和梯度下降(2017)。https://CRAN.R-project.org/package=hgm。R包版本1.17
[23] Tibshirani,R.:通过套索进行回归收缩和选择。J.R.统计社会服务。B(Methodol.)58(1),267-288(1996)。http://www.jstor.org/stable/2346178 ·Zbl 0850.62538号
[24] Yeh,IC,使用二阶回归和人工神经网络模拟混凝土坍落度流动,水泥混凝土复合材料,29,6,474-480(2007)·doi:10.1016/j.cemconcomp.2007.02.001
[25] 袁,M。;Lin,Y.,高斯图形模型中的模型选择和估计,生物统计学,94,1,19-35(2007)·Zbl 1142.62408号 ·doi:10.1093/biomet/asm018
[26] Yukawa,M。;Amari,SI,\(\ell_p\)-正则化最小二乘\((0<p<1)\)和临界路径,IEEE Trans。通知。理论,62,1488-502(2016)·Zbl 1359.94207号 ·doi:10.1109/TIT.2015.2501362
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。