摘要
施加套索惩罚会将参数估计值缩小到零,并执行连续模型选择。拉索惩罚回归能够处理预测因子数量远远超过案例数量的线性回归问题。本文测试了两种具有套索惩罚的异常快速的回归系数估计算法。之前已知的ℓ2该算法基于循环坐标下降。我们的新ℓ1该算法基于贪婪坐标下降和Edgeworth算法ℓ1回归。每种算法都依赖于可通过交叉验证选择的调整常数。在一些回归问题中,很自然地会对参数进行分组,并对参数进行逐组惩罚,而不是单独惩罚。如果群惩罚与群参数的欧几里德范数成正比,则可以优化范数并将参数估计减少到ℓ2用套索惩罚回归。因此,现有算法可以扩展到新的设置。讨论的每种算法都通过模拟或实际数据或两者进行测试。附录证明了ℓ2算法收敛到目标函数的最小值。
引用
下载引文
吴桐桐。
肯尼斯·兰格。
“套索惩罚回归的坐标下降算法。”
附录申请。斯达。
2
(1)
224 - 244,
2008年3月。
https://doi.org/10.1214/07-AOAS147
问询处
发布日期:2008年3月
首次出现在欧几里得项目中:2008年3月24日
数字对象标识符:10.1214/07-AOAS147
关键词:一致性,汇聚,循环的,循环的,Edgeworth算法,贪婪的,型号选择
版权所有©2008数学统计研究所