×

稀疏样本平均逼近的d-平稳解的一致性界和支持恢复。 (英语) Zbl 1465.90067号

摘要:本文研究了在确定性条件下,包含凸差稀疏函数的稀疏样本平均逼近问题的d(方向)平稳解的性质。这些性质是关于满足可验证假设的向量来研究的,该可验证假设将经验样本平均近似问题与由底层数据分布定义的期望最小化问题联系起来。我们推导了两个向量之间的距离以及它们生成的模型结果的差异的界限。此外,还研究了它们的支持集(非零值指标集)之间的包含关系。我们提供了一个条件,在这个条件下,d-定态解的支撑包含在感兴趣向量的支撑内,并且包含在感关注向量的支撑中;对于任何给定的任意索引集,都可以示出第一种包含。本文给出的一些结果是对线性回归的(ell_1)范数正则最小二乘极小化问题的现有理论的推广。

MSC公司:

90C26型 非凸编程,全局优化
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Ahn,M.,《凸学习的差异:非凸稀疏函数的优化》(2018),洛杉矶:南加州大学洛杉矶分校
[2] 安,M。;庞,JS;Xin,J.,凸学习的差异:方向平稳性、最优性和稀疏性,SIAM J.Optim。,27, 3, 1637-1665 (2017) ·Zbl 1369.90130号 ·doi:10.1137/16M1084754
[3] Bertsekas,DP,非线性规划(1999),Belmont:Athena Scientific,Belmon·Zbl 1015.90077号
[4] Bühlmann,P。;van de Geer,S.,《高维数据统计》(2011),柏林:施普林格出版社,柏林·Zbl 1273.62015年
[5] 比克尔,BJ;Ritov,Y。;Tsybakov,AB,《LASSO和Dantzig选择器的同时分析》,《Ann.Stat》,37,4,1705-1732(2009)·Zbl 1173.62022号 ·doi:10.1214/08-AOS620
[6] Candès,大肠杆菌。;Tao,T.,线性规划解码,IEEE Trans。《信息论》,51,12,4203-4216(2005)·Zbl 1264.94121号 ·doi:10.1109/TIT.2005.858979
[7] Candès,大肠杆菌。;Tao,T.,《随机投影的近最优信号恢复:通用编码策略》,IEEE Trans。Inf.理论,52,12,5406-5425(2006)·Zbl 1309.94033号 ·doi:10.1109/TIT.2006.885507
[8] 坎迪斯,E。;Tao,T.,Dantzig选择器:当p远大于n时的统计估计,《统计年鉴》,35,6,2313-2351(2007)·Zbl 1139.62019号 ·doi:10.1214/09053606000001523
[9] Candès,大肠杆菌。;Wakin,M。;Boyd,S.,通过重加权最小化增强稀疏性,J.Fourier Ana。申请。,14, 5, 877-905 (2008) ·Zbl 1176.94014号 ·doi:10.1007/s00041-008-9045-x
[10] Dong,H.,Ahn,M.,Pang,J.S.:仿射稀疏性约束的结构性质。数学。程序。序列号。B(2018)。2007年10月10日/10107-018-1283-3·Zbl 1415.90087号
[11] 范,J。;Li,R.,《通过非一致惩罚似然进行变量选择及其预言属性》,美国统计协会,96,456,1348-1360(2001)·Zbl 1073.62547号 ·doi:10.1198/016214501753382273
[12] 范,J。;Lv,J.,NP维非凹陷惩罚可能性,IEEE Trans。《信息论》,57,8,5467-5484(2011)·Zbl 1365.62277号 ·doi:10.1109/TIT.2011.2158486
[13] 哈斯蒂,T。;Tibshirani,R。;Wainwright,M.,《稀疏的统计学习:拉索和泛化》(2015),博卡拉顿:CRC出版社/泰勒和弗朗西斯集团,博卡拉顿·Zbl 1319.68003号
[14] K.奈特。;Fu,W.,套索型估计量的渐近性,Ann.Stat.,28,5,1356-1378(2000)·Zbl 1105.62357号 ·doi:10.1214/aos/1015957397
[15] Le Thi,HA;Pham,DT,The DC programming and DCA revised with DC models of real world noncovel optimization problems,Ann.Oper。Res.,133,25-46(2005)·Zbl 1116.90122号
[16] Le Thi,HA;Pham,DT;Vo,XT,稀疏优化的DC近似方法,欧洲期刊Oper。决议,244,26-46(2015)·Zbl 1346.90819号 ·doi:10.1016/j.ejor.2014.11.031
[17] Loh,P。;Wainwright,M.,具有非凸性的正则M-估计量:局部最优的统计和算法理论,J.Mach。学习。决议,16559-616(2015)·Zbl 1360.62276号
[18] Loh,P。;Wainwright,M.,《无非相干支持恢复:非凸正则化案例》,《Ann.Stat.》,45,6,2455-2482(2017)·Zbl 1385.62008号 ·doi:10.1214/16-AOS1530
[19] Lou,Y。;尹,P。;Xin,J.,基于非凸L1方法的点源超分辨率,科学杂志。计算。,68,31082-1100(2016)·Zbl 1354.65125号 ·doi:10.1007/s10915-016-0169-x
[20] 卢,S。;刘,Y。;尹,L。;Zhang,K.,优化中使用随机变分不等式技术的套索置信区间和区域,J.Roy。Stat.Soc.B,79,2,589-611(2017)·Zbl 1414.62319号 ·doi:10.1111/rssb.12184
[21] 内加班,S。;拉维库马尔,P。;温赖特,M。;Yu,B.,用可分解正则化子对M估计进行高维分析的统一框架,Stat.Sci。,27, 4, 538-557 (2012) ·Zbl 1331.62350号 ·doi:10.1214/12-STS400
[22] Nikolova,M.,正则估计的局部强同质性,SIAM J.Appl。数学。,61, 2, 633-658 (2000) ·Zbl 0991.94015号 ·doi:10.1137/S00361399997327794
[23] 庞,JS;拉扎维亚因,M。;Alvarado,A.,计算非光滑DC程序的B平稳点,数学。操作。第42号、第1号、第95-118号决议(2017年)·Zbl 1359.90106号 ·doi:10.1287/门.2016.0795
[24] 庞,JS;Tao,M.,计算一类非光滑非凸优化问题方向平稳解的分解方法,SIAM J.Optim。,28, 2, 1640-1669 (2018) ·Zbl 1397.90316号 ·doi:10.1137/17M1110249
[25] Shapiro,A.,Dentcheva,D.,Ruszczynski,A.:随机规划讲座:建模与理论。SIAM出版物。费城(2009)·邮编:1183.90005
[26] Tibshirani,R.,通过Lasso,J.R.Stat.Soc.回归收缩和选择,58,1,267-288(1996)·Zbl 0850.62538号
[27] 尹,P。;Lou,Y。;何,Q。;Xin,J.,压缩传感用L1-L2最小化,SIAM J.科学。计算。,37, 1, 536-563 (2015) ·Zbl 1316.90037号 ·doi:10.137/140952363
[28] 尹,W。;Osher,S。;Goldfarb,D。;Darbon,J.,Bregman迭代算法{五十} _1个\)-压缩传感应用最小化,SIAM J.Imag。科学。,143-168年1月1日(2008年)·Zbl 1203.90153号 ·doi:10.1137/070703983
[29] Zhang,C.,《Minimax凹板惩罚下的几乎无偏变量选择》,Ann.Stat.,38,2,894-942(2010)·Zbl 1183.62120号 ·doi:10.1214/09-AOS729
[30] 张,S。;Xin,J.,变换惩罚最小化:理论,凸函数算法的差异,以及在压缩感知中的稳健应用,数学。程序。序列号。B、 169、1、307-336(2018)·Zbl 1386.94049号 ·doi:10.1007/s10107-018-1236-x
[31] 赵,P。;Yu,B.,关于LASSO,J.Mach的模型选择一致性。学习。第72541-2563号决议(2006年)·Zbl 1222.62008年
[32] Zou,H.,自适应Lasso及其oracle属性,美国统计协会,101,476,1418-1429(2006)·Zbl 1171.62326号 ·doi:10.1198/016214500000735
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。