开放式访问
2023 高维复合分位数回归:最优统计保证和快速算法
海松月亮,周文欣
作者关联+
电子。J.统计。 17(2): 2067-2119 (2023). 内政部:10.1214/23-EJS2147

摘要

复合分位数回归(CQR)是由邹和袁介绍的[安。统计师。 36(2008)1108–1126]作为一种稳健回归方法,用于具有重尾误差的线性模型,同时实现高效。最近,Gu和Zou研究了高维稀疏模型的惩罚对应项[IEEE传输。Inf.理论 66(2020)7132–7154],以及基于交替直接乘数法(ADMM)的专用优化算法。与惩罚最小二乘的各种一阶算法相比,基于ADMM的算法不太适合大规模问题。为了克服这种计算困难,本文将卷积平滑技术用于CQR,并辅以迭代重加权1-正规化。平滑后的复合损失函数是凸的,二次连续可微的,局部强凸的概率较高。我们提出了一种基于梯度的惩罚平滑CQR算法,该算法通过一种优化最小化原则的变体来实现,与ADMM相比,该算法获得了显著的计算效率。理论上,我们证明了迭代重加权1-惩罚平滑CQR估计器在不受任何矩约束的重尾误差下实现了近极小最大的最优收敛速度,并在比Gu和Zou(2020)所需的最小信号强度较弱的条件下进一步实现了近oracle收敛速度。数值研究表明,与同时实现鲁棒性和高效性的两种最新方法相比,该方法在不影响统计性能的情况下显示出显著的计算优势。

引用

下载引文

海松月亮。 周文欣。 “高维复合分位数回归:最佳统计保证和快速算法。” 电子。J.统计。 17 (2) 2067 - 2119, 2023 https://doi.org/10.1214/23-EJS2147

问询处

收到日期:2022年4月1日;发布日期:2023年
欧几里德项目首次推出:2023年10月2日

数学科学网:4649035马来西亚令吉
数字对象标识符:10.1214/23-EJS2147

学科:
主要用户:62J07型
次要:62A01级

关键词:渐进效率,复合分位数回归,卷积平滑,高维数据,oracle属性,稀疏度

第17卷•第2期•2023
返回页首