×

用于分析高维相关数据的自适应和反向惩罚。 (英语) Zbl 1481.62040号

摘要:回归模型的许多大规模应用都有相关的数据。虽然已经为这个建模问题开发了多种方法,但要保持准确的估计仍然是一个挑战。我们提出了一种自适应的“反向”惩罚,其重点是消除收缩偏差并鼓励分组效应。结合L_1惩罚和Minimax凹惩罚,我们提出了两种相关效应平滑调整和相关效应广义平滑调整方法。它们可以被视为特殊的自适应估计量,但不同于高度依赖初始估计的传统自适应估计量。所提出的估计量即使从错误的初始估计中也能获得有效信息,从而从有限样本中提供稳定和准确的估计。在温和的正则性条件下,我们证明了这些方法满足oracle性质。仿真结果表明,该方法能够准确估计相关结构中的系数。我们还将所提出的估计量应用于财务数据,并表明它在资产配置选择中是成功的。

MSC公司:

62J05型 线性回归;混合模型
62甲12 多元分析中的估计
90C26型 非凸规划,全局优化
90 C90 数学规划的应用

软件:

格尔姆奈特
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Tibshirani,R.,《通过套索进行回归收缩和选择》,J.R.Stat.Soc.,58,1,267-288(1996)·Zbl 0850.62538号
[2] 邹,H。;Hastie,T.,《通过弹性网进行正则化和变量选择》,J.R.Stat.Soc.,67,2,301-320(2005)·Zbl 1069.62054号
[3] 赵,P。;Yu,B.,关于套索的模型选择一致性,J.Mach。学习。第72541-2563号决议(2006年)·Zbl 1222.62008年
[4] 贾建中。;Yu,B.,关于p(gg)n时弹性网的模型选择一致性,Stat.Sin。,20595-611(2010年)·Zbl 1187.62125号
[5] Zhang,C.H.,最小最大凹惩罚下的几乎无偏变量选择,《Ann.Stat.》,38,2,894-942(2010)·Zbl 1183.62120号
[6] 阿森,M.E。;北卡罗来纳州查拉帕利。;Vidyasagar,M.,压缩传感的两种新方法,表现出强大的稀疏恢复和分组效应,J.Mach。学习。第18号、第1号、第1745-1768号决议(2017年)·Zbl 1440.62281号
[7] 切尔诺朱科夫,V。;Hansen,C。;Liao,Y.,《熔岩对密集和稀疏信号总和恢复的影响》,《Ann.Stat.》,45,1,39-76(2017)·Zbl 1422.62248号
[8] 郭建华。;胡建川。;Jing,B.Y。;Zhang,高维线性回归中的样条函数,美国统计协会,111,513,288-297(2016)
[9] Sadhanala,V。;Tibshirani,R.J.,带趋势过滤的加法模型,Ann.Stat.,47,6,3032-3068(2019)·Zbl 1436.62450号
[10] 吴,M。;张,Q。;Ma,S.,结构化基因-环境相互作用分析,生物统计学,76,1,23-35(2020)·Zbl 1451.62148号
[11] 米勒,S。;Startz,R.,使用支持向量回归的可行广义最小二乘法,经济。莱特。,175, 28-31 (2019) ·Zbl 1410.62120号
[12] 刘国杰,线性回归中的一类新的有偏估计,Commun。统计-理论方法,22,2,393-402(1993)·Zbl 0784.62065号
[13] 邹,H。;Zhang,H.L.,关于参数发散的自适应弹性网,Ann.Stat.,37,4,1733-1751(2009)·Zbl 1168.62064号
[14] Zou,H.,《自适应套索及其预言属性》,美国统计协会,101,476,1418-1429(2006)·Zbl 1171.62326号
[15] 内加班,S。;拉维库马尔,P。;Wainwright,M.J。;Yu,B.,带可分解正则化子的高维估计量分析的统一框架,Stat.Sci。,27, 4, 1348-1356 (2012)
[16] Raskutti,G。;Wainwright,M.J。;Yu,B.,相关高斯设计的限制特征值特性,J.Mach。学习。第11号决议,2241-2259(2010年)·Zbl 1242.62071号
[17] 埃夫隆,B。;哈斯蒂,T。;约翰斯通,L。;Tibshirani,R.,《最小角度回归》,《Ann.Stat.》,32,2,407-451(2004)·Zbl 1091.62054号
[18] 弗里德曼,J。;哈斯蒂,T。;Tibshirani,R.J.,通过坐标下降广义线性模型的正则化路径,J.Stat.Softw。,33, 1, 1-22 (2010)
[19] 布雷尼,P。;Huang,J.,非凸惩罚回归的坐标下降算法,及其在生物特征选择中的应用,Ann.Appl。《法律总汇》第5卷第232-253页(2011年)·Zbl 1220.62095号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。