×

通过非凸惩罚实现OEM的oracle属性。 (英语) Zbl 07660526号

摘要:平滑截尾绝对偏差(SCAD)和最小最大凹罚函数(MCP)等非凸罚函数的惩罚最小二乘估计是高度非线性的,具有许多局部最优解。找到一个本地解决方案来实现所谓的oracle属性是一个具有挑战性的问题。我们证明了正交化EM(OEM)算法在一定正则性条件下,对于适度但发散的变量数,确实可以找到这样一个具有oracle性质的局部解。

MSC公司:

62至XX 统计

软件:

稀疏的
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Bai,Z.D。;尹永清,大维样本协方差矩阵最小特征值的极限,概率年鉴,211275-1294(1993)·Zbl 0779.60026号
[2] Breiman,L.,使用非负garrote进行更好的子集回归,技术计量学,37,373-384(1995)·Zbl 0862.62059号
[3] Breheny,P。;Huang,J.,非凸惩罚回归的坐标下降算法,及其在生物特征选择中的应用,应用统计年鉴,5232-253(2011)·Zbl 1220.62095号
[4] Bühlmann,P。;van de Geer,S.,高维数据统计学:方法、理论和应用(2011),柏林:施普林格,柏林·Zbl 1273.62015年
[5] Eicker,F.R.,线性回归族最小二乘估计的渐近正态性和一致性,《数理统计年鉴》,34,447-456(1963)·Zbl 0111.34003号
[6] 范,J。;Li,R.,《基于非一致惩罚似然的变量选择及其预言性质》,美国统计协会杂志,96,1348-1360(2001)·Zbl 1073.62547号
[7] 范,J。;Lv,J.,超高维特征空间的确定独立筛选(含讨论),《皇家统计学会杂志:B辑》,,70,849-911(2008)·Zbl 1411.62187号
[8] 范,J。;Lv,J.,《NP维非洞穴惩罚可能性的性质》,IEEE信息理论汇刊,57,5467-5484(2011)·Zbl 1365.62277号
[9] 范,J。;彭浩,参数个数不同的非压缩惩罚似然,《统计年鉴》,,32928-961(2004)·Zbl 1092.62031号
[10] 范,J。;薛,L。;邹浩,折叠凹惩罚估计的强预言最优,《统计年鉴》,第42期,第819-849页(2014年)·Zbl 1305.62252号
[11] 范,Y。;Tang,C.Y.,高维惩罚似然中的调整参数选择,英国皇家统计学会杂志,B辑,75531-552(2013)·Zbl 1411.62216号
[12] 霍尔,A.E。;Kennard,R.W.,《岭回归:非正交问题的有偏估计》,《技术计量学》,第12期,第55-67页(1970年)·Zbl 0202.17205号
[13] 徐,D。;卡卡德,S.M。;Zhang,T.,亚高斯随机向量二次型的尾部不等式,电子概率杂志,17,1-6(2012)·Zbl 1309.60017号
[14] 亨特·D·R。;Li,R.,使用MM算法的变量选择,《统计年鉴》,第33期,第1617-1642页(2005年)·Zbl 1078.62028号
[15] 霍,X。;Chen,J.,惩罚似然估计的复杂性,统计计算与模拟杂志,80,747-759(2010)·Zbl 1195.62035号
[16] 霍,X。;Ni,X.L.,《逐步算法何时满足子集选择标准》,《统计年鉴》,35870-887(2007)·兹比尔1125.62079
[17] Kim,Y。;Choi,H。;Oh,H.-S,《高维平滑剪裁绝对偏差》,《美国统计协会杂志》,第103期,第1665-1673页(2008年)·Zbl 1286.62062号
[18] Lai,T.L。;Wei,C.Z.,矩不等式及其在回归和时间序列模型中的应用,统计和概率不等式,IMS讲义-专题系列,5,165-172(1984)
[19] Lanczos,C.,解线性微分和积分算子特征值问题的迭代方法,国家标准局研究杂志,45,255-282(1950)
[20] Loh,P.L。;Wainwright,M.J.,非凸正则M-估计量:局部最优的统计和算法理论,神经信息处理系统的进展,26,476-484(2013)
[21] Mazumder,R。;弗里德曼,J。;Hastie,T.,《SparseNet:协调下降与非凸处罚》,《美国统计协会杂志》,第106期,第1125-1138页(2011年)·Zbl 1229.62091号
[22] 孟晓林,关于非冲突惩罚似然模型中一步稀疏估计的讨论,统计年鉴,,361542-1552(2008)·Zbl 1282.62104号
[23] Schifano,E.D。;斯特劳德曼,R。;Wells,M.T.,非光滑惩罚目标函数的优化最小算法,《电子统计杂志》,第4期,1258-1299页(2010年)·兹比尔1267.65009
[24] Tibshirani,R.,《通过套索进行回归收缩和选择》,《皇家统计学会杂志:B辑》,58,267-288(1996)·Zbl 0850.62538号
[25] Tseng,P.,不可微极小化的块坐标下降法的收敛性,优化理论与应用杂志,109,475-494(2001)·Zbl 1006.65062号
[26] 曾,P。;Yun,S.,非光滑可分离极小化的坐标梯度下降法,数学程序,117387-423(2009)·Zbl 1166.90016号
[27] Wang,H。;李,B。;Leng,C.,具有发散参数数的收缩调谐参数选择,《皇家统计学会杂志:B辑》,,71,671-683(2009)·Zbl 1250.62036号
[28] Wang,H。;李,R。;Tsai,C-L,平滑剪裁绝对偏差方法的调整参数选择器,Biometrika,,94,553-568(2007)·Zbl 1135.62058号
[29] Wang,L。;Kim,Y。;Li,R.,超高维非凸惩罚回归的校准,《统计学年鉴》,4122505-2536(2013)·Zbl 1281.62106号
[30] 王,S。;贾忠,《矩阵理论中的不等式》(1994),合肥:安徽教育出版社,合肥
[31] 熊,S。;戴,B。;胡林,J。;Qian,P.,《正交化EM:基于设计的最小二乘算法》,《技术计量学》,58285-293(2016)
[32] 熊,S。;戴,B。;Qian,P.,最小二乘问题的OEM算法(2011)
[33] Zhang,C.-H.,最小最大凹惩罚下的几乎无偏变量选择,统计年鉴,38894-942(2010)·Zbl 1183.62120号
[34] Zou,H.,《自适应套索及其预言属性》,《美国统计协会杂志》,第101期,第1418-1429页(2006年)·Zbl 1171.62326号
[35] 邹,H。;Li,R.,非冲突惩罚似然模型中的一步稀疏估计,《统计年鉴》,第36期,第1509-1533页(2008年)·Zbl 1142.62027号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。