开放式访问
2004年4月 最小角度回归
布拉德利·埃弗龙,黑斯蒂,伊恩·约翰斯通,罗伯特·蒂施莱尼
作者关联+
安。统计师。 32(2): 407-499 (2004年4月)。 内政部:10.1214/009053604000000067

摘要

模型选择算法的目的,例如所有子集,正向选择向后消除是根据模型将应用到的相同数据集选择线性模型。通常,我们有大量可能的协变量,我们希望从中选择一个简约集来有效预测响应变量。最小角度回归(LARS)是一种新的模型选择算法,是传统正向选择方法的一种有用且不太贪婪的版本。导出了三个主要性质:(1)LARS算法的一个简单修改实现了Lasso,这是普通最小二乘法的一个有吸引力的版本,限制了绝对回归系数的和;LARS修正计算给定问题的所有可能Lasso估计,使用的计算机时间比以前的方法少一个数量级。(2) 一种不同的LARS修正有效地实现了另一种有前途的新模型选择方法——正向分段线性回归;这一联系解释了之前在Lasso和Stagewise中观察到的类似数值结果,并帮助我们了解这两种方法的特性,它们被视为更简单的LARS算法的约束版本。(3) LARS估计的自由度有一个简单的近似值,从中我们导出了一个C类第页预测误差估计;这允许在可能的LARS估计范围中进行原则性选择。LARS及其变体具有计算效率:本文描述了一种公开可用的算法,该算法只需要与应用于全组协变量的普通最小二乘法相同数量级的计算工作量。

引文

下载引文

布拉德利·埃夫隆。 特雷弗·哈斯蒂。 伊恩·约翰斯通。 Robert Tibshirani。 “最小角度回归。” 安。统计师。 32 (2) 407 - 499, 2004年4月。 https://doi.org/10.1214/009053604000000067

问询处

发布日期:2004年4月
欧几里得项目首次提供:2004年4月28日

zbMATH公司:1091.62054
数学科学网:2060166美元
数字对象标识符:10.1214/009053604000000067

学科:
主要用户:62J07型

关键词:增压,系数路径,拉索,线性回归,变量选择

版权所有©2004数学统计研究所

第32卷•第2期•2004年4月
返回页首