×
江、何;郑伟华;董、姚

带岭极小极大凹惩罚的稀疏稳健估计。 （英语） Zbl 07769004号

信息科学。 571, 154-174 (2021).
摘要：特征选择是数据挖掘中用于从大量数据中提取有价值信息的一个重要过程。现有的惩罚方法使用单个惩罚函数来选择重要特征。然而，这些方法并没有产生足够准确的预测和选择结果。因此，构建一个简洁高效的预测模型将是有益的。在本研究中，我们提出了一种新的惩罚函数，使用脊和极小极大凹惩罚来克服单个惩罚函数的局限性。此外，我们引入了一种具有Huber损失函数的鲁棒惩罚特征选择方法，该方法通过局部近似算法实现。描述了该算法的理论性质。仿真和实际数据分析证明了该方法的有效性。

MSC公司：

62至XX 统计
68倍 计算机科学

关键词：

特征选择;稳健估计;极小极大罚函数;局部二次逼近
PDF格式BibTeX公司 XML格式引用
\textit{H.Jiang}等人，《信息科学》。57115-174（2021；Zbl 07769004）
全文： 内政部

参考文献：

[1] Frank E.Grubbs，《检测样本中异常观测值的程序》，《技术计量学》，第11、1、1-21页（1969年）
[2] Jr Branham，R.L.，最小二乘法的替代方法，Astron。J.，87，6，928-937（1982）
[3] Mosteller，F。；Tukey，J.W.，《数据分析与回归：统计学第二课程》（1977年），艾迪森·韦斯利
[4] Rousseeuw，Peter J.，最小二乘回归，美国统计协会，79，388，871-880（1984）·Zbl 0547.62046号
[5] 彼得·卢梭（Peter Rousseeuw）；克罗克斯，克里斯托夫，《中值绝对偏差的替代方法》，《美国统计协会期刊》，88，1273-1283（1993）·Zbl 0792.62025号
[6] Huber，P.J.，《稳健回归：渐近性、猜想和蒙特卡罗》，《美国统计年鉴》，第1799-821页（1973年）·兹标0289.62033
[7] 持有人，R。；弗雷德里克·莫斯特勒；John Tukey，数据分析与回归，应用。Stat.，28，177（1979）
[8] Andrews，D.F.，多元线性回归的稳健方法，Technometrics，16，4，523-531（1974）·Zbl 0294.62082号
[9] 罗杰·W·科恩。；Bassett，Gilbert，回归分位数，计量经济学，46，1，33-50（1978）·Zbl 0373.62038号
[10] Roger Koenker，Pin Ng，稀疏分位数回归的弗里斯-牛顿算法，数学学报。申请。罪。（英国Ser.）（02）（2005）51-62·Zbl 1097.62028号
[11] 阿莱西奥·法科梅尼；Geraci，Marco，《多状态分位数回归模型》，Stat.Med.，39，45-56（2019）
[12] 袁超；杨利明；Sun，Ping，稳健双支持向量机的基于协方差的度量，Inf.Sci。，545, 82-101 (2021) ·Zbl 1475.68307号
[13] 何一聪；王菲；王世元；曹九文；Chen，Badong，鲁棒压缩传感重建的最大相关熵自适应方法，信息科学。，480, 381-402 (2019) ·Zbl 1458.94098号
[14] 李明；黄昌琴；王殿辉，不确定数据回归的具有最大相关熵准则的稳健随机配置网络，信息科学。，473, 73-86 (2019) ·Zbl 1450.62123号
[15] 周鹏；雪刚、雪刚；李培培；吴新东，基于自适应邻域粗糙集的在线流媒体特征选择，信息科学。，481, 258-279 (2019)
[16] 拉齐埃·谢赫普尔；萨拉姆、梅迪·阿加；Sheikhpour，Elnaz，回归问题中基于拉普拉斯散点矩阵的半监督稀疏特征选择，信息科学。，468, 14-28 (2018) ·Zbl 1450.62080
[17] Frank，Lldiko E。；Friedman，Jerome H.，一些化学计量学回归工具的统计观点，技术计量学，35，2，109-135（1993）·Zbl 0775.62288号
[18] Robert Tibshirani，《通过套索进行回归收缩和选择》，J.R.Stat.Soc.，58，1，267-288（1996）·Zbl 0850.62538号
[19] 范建清；Li，Runze，通过非洞穴惩罚似然的变量选择及其预言性质，J.Am.Stat.Assoc.，964561348-1360（2001）·Zbl 1073.62547号
[20] 邹慧；Hastie，Trevor，通过弹性网的正则化和变量选择，J.R.Stat.Soc.Seri。B、 67768（2005）·Zbl 1069.62054号
[21] 邹慧，《自适应套索及其预言属性》，美国统计学会，第101、476、1418-1429页（2006）·Zbl 1171.62326号
[22] Zhang，Cun Hui，极小极大凹罚下的几乎无偏变量选择，Ann.Stat.，38，2，894-942（2010）·Zbl 1183.62120号
[23] Selesnick，Ivan，通过凸分析的稀疏正则化，IEEE Trans。信号处理。，65, 17, 4481-4494 (2017) ·Zbl 1414.94545号
[24] 王汉生；李国栋；Jiang，Guohua，《通过lad-lasso进行稳健回归收缩和一致变量选择》，J.Business Econ。Stat.，25，347-355（2007）
[25] Arslan，Olcay，回归中稳健参数估计和变量选择的加权lad-lasso方法，计算。统计数据分析。，56, 6, 1952-1965 (2012) ·Zbl 1243.62029号
[26] 胡杨。；Yang，Jing，部分线性单指数模型的自适应l1-惩罚lad回归，J.Stat.Plann。推断，151-152，73-89（2014）·Zbl 1288.62065号
[27] 王明秋；宋立新；田国良，Scad惩罚高维模型中的最小绝对偏差回归，Commun。Stat.，44，12，2452-2472（2015）·Zbl 1328.62111号
[28] 李斌，于清照，稳健与稀疏桥回归，统计界面4（2009）481-491·Zbl 1245.62092号
[29] 兰贝特·拉克罗瓦（Lambert-Lacroix），索菲（Sophie）；Zwald，Laurent，通过huber准则和自适应套索惩罚的稳健回归，Electron。J.Stat.，51015-153（2011）·Zbl 1274.62467号
[30] Lamarche，Carlos，面板数据的稳健惩罚分位数回归估计，J.Econometr。，157, 2, 396-408 (2010) ·Zbl 1431.62161号
[31] 亚历山大·贝洛尼（Alexandre Belloni）；Chernozhukov，Victor，高维稀疏模型中的L1-优化分位数回归，《Ann.Stat.》，39，1，82-130（2011）·Zbl 1209.62064号
[32] Wang，Lan；吴一超；Li，Runze，用于分析超高维异质性的分位数回归，J.Am.Stat.Assoc.，107497214-222（2012）·Zbl 1328.62468号
[33] Yi，从锐；Huang，Jian，弹性网惩罚huber损失回归和分位数回归的半光滑牛顿坐标下降算法，J.Compute。图表。Stat.，26，3，547-557（2017）
[34] 谷宇文。；范军；孔凌晨；马时谦；Zou，Hui，Admm，高维稀疏惩罚分位数回归，Technometrics，60，3，319-331（2018）
[35] 丁贤文；陈建东；Chen，Xueping，具有不可忽视缺失响应的超高维数据的正则分位数回归，Metrika，09（2019）·Zbl 1442.62082号
[36] 刘永新；曾鹏；Lu，Lin，带线性约束的广义l1-惩罚分位数回归，计算。统计数据分析。，142，第106819条pp.（2020）·Zbl 1507.62118号
[37] 冯磊；孙怀江；朱军，基于半二次函数和加权schatten-p范数的鲁棒图像压缩感知，信息科学。，477, 265-280 (2019) ·Zbl 1442.94009号
[38] 刘新新；周玉灿；赵红，由数据和知识驱动的稳健层次特征选择，信息科学。(2020)
[39] 桑小双；卢红；赵庆华；张法恩；陆建峰，基于非凸正则化和潜在模式的稳健回归人脸识别，信息科学。，547, 384-403 (2021)
[40] 何江；罗世华；Dong，Yao，基于平方根优化的同时特征选择和聚类，Eur.J.Oper。第289、1、214-231号决议（2021年）·Zbl 1487.62086号
[41] 阿瑟·霍尔（Arthur E.Hoerl）。；Kennard，Robert W.，Ridge回归：非正交问题的有偏估计，技术计量学，12，1，55-67（1970）·Zbl 0202.17205号
[42] 张存慧；张彤，高维稀疏估计问题凹正则化的一般理论，统计科学。，27, 4, 576-593 (2012) ·Zbl 1331.62353号
[43] 彼得·比克尔（Peter J.Bickel）。；里托夫，亚科夫；Tsybakov，Alexandre B.，《套索和dantzig选择器的同时分析》，《Ann.Stat.》，第37、4、1705-1732页（2009年）·Zbl 1173.62022号
[44] Peter J.Bickel，Ya’acov Ritov，Alexandre B.Tsybakov等人，稀疏高维回归中变量的层次选择，in：借入强度：理论驱动应用——劳伦斯·D·布朗的一场盛会，数学统计研究所，2010年，第56-69页。
[45] 詹妮弗·沃兹沃思（Jennifer L.Wadsworth）。；Tawn，Jonathan A.，组合l1和凹正则化的渐近性质，生物统计学，1，1，57-70（2014）·Zbl 1285.62074号
[46] 赵拓；刘，韩；张彤，《稀疏学习的路径坐标优化：算法与理论》，《Ann.Stat.》，46，1，180-218（2018）·Zbl 1416.62413号
[47] 范建清；范莹莹；Barut，Emre，自适应稳健变量选择，《Ann.Stat.》，42，1，324-351（2014）·Zbl 1296.62144号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。