×

无约束极小化的复杂性。 (英语) Zbl 1285.90039号

摘要:我们考虑了无约束的(L_q)-(L_p)极小化:对给定的(a\ in R^{m\ times n}\)、(b\ in R*m\)和参数\(lambda>0\)、\(p\ in[0,1)和\(q\geq1\)找到了\(Ax-b\)的极小值。这个问题在许多领域都得到了广泛的研究。特别是在(q=2\)的情况下该问题被称为(L_2-L_p)最小化问题,并在变量选择问题和高维数据的稀疏最小二乘拟合中得到了应用。理论结果表明,由于正则化函数(L_q-L_p)的凹性和非Lipschitz性质,L_q/L_p问题的极小值具有各种吸引人的特征。在本文中,我们证明了\(L_q-L_p\)最小化问题对于任何\(p\In[0,1)\)和\(q\geq1\),包括其平滑版本,都是强NP难的。另一方面,我们通过选择参数\((p,\lambda)\)小心地,一个最小化器,无论是全局的还是局部的,都将具有一定的期望稀疏性。我们相信这些结果为凹正则优化问题的研究和应用提供了新的理论见解。

MSC公司:

90C26型 非凸规划,全局优化
90摄氏51度 内部点方法
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Chartrand,R.:通过非凸最小化精确重建稀疏信号。IEEE信号处理。莱特。14, 707-710 (2007) ·doi:10.1109/LSP.2007.898300
[2] Chartrand,R.,Staneva,V.:受限等距特性和非凸压缩传感。反向探测。24, 1-14 (2008) ·Zbl 1143.94004号·doi:10.1088/0266-5611/24/3/035020
[3] Chen,X.,Xu,F.,Ye,Y.:\[\ell_2-\ell_p\]最小化解中非零项的下限理论。SIAM J.科学。计算。32, 2832-2852 (2010) ·Zbl 1242.90174号·数字对象标识代码:10.1137/090761471
[4] Chen,X.,Zhou,W.:重加权极小化算法的收敛性和截断极小化的唯一解。香港理工大学应用数学系,预印本(2010)·Zbl 0379.68035号
[5] Fan,J.,Li,R.:通过非冲突惩罚似然及其预言属性进行变量选择。《美国统计学会期刊》96,1348-1360(2001)·Zbl 1073.62547号·doi:10.1198/016214501753382273
[6] Foucart,S.,Lai,M.J.:通过[0<q\le1\]最小化得到欠定线性系统的最稀疏解。申请。计算。哈蒙。分析。26, 395-407 (2009) ·Zbl 1171.90014号·doi:10.1016/j.acha.2008.09.001
[7] Frank,I.E.,Freidman,J.H.:一些化学计量学回归工具的统计观点(附讨论)。技术计量学35,109-148(1993)·兹比尔0775.62288·doi:10.1080/0401706.1993.10485033
[8] Garey,M.R.,Johnson,D.S.:“强大的”NP-完整性结果:动机、示例和含义。J.协会计算。机器。25, 499-508 (1978) ·Zbl 0379.68035号·数字对象标识代码:10.1145/322077.322090
[9] Garey,M.R.,Johnson,D.S.:计算机与难治性;NP完全性理论指南。W.H.Freeman,纽约(1979)·Zbl 0411.68039号
[10] Ge,D.,Jiang,X.,Ye,Y.:关于\[L_p\]最小化复杂性的注记。数学。程序。129, 285-299 (2011) ·Zbl 1226.90076号·doi:10.1007/s10107-011-0470-2
[11] Huang,J.,Horowitz,J.L.,Ma,S.:稀疏高维回归模型中桥估计量的渐近性质。Ann.Stat.36,587-613(2008年)·Zbl 1133.62048号·doi:10.1214/0090536007000000875
[12] K.奈特,Fu,W.J.:套索型估计量的渐近性。《美国年鉴》第28卷,1356-1378页(2000年)·Zbl 1105.62357号·doi:10.1214/aos/1015957397
[13] Lai,M.,Wang,Y.:欠定线性系统稀疏解的无约束极小化。SIAM J.优化。21, 82-101 (2011) ·Zbl 1220.65051号·数字对象标识代码:10.1137/090775397
[14] Natarajan,B.K.:线性系统的稀疏近似解。SIAM J.计算。24, 227-234 (1995) ·Zbl 0827.68054号·doi:10.1137/S0097539792240406
[15] Nocedal,J.,Wright,S.J.:《数值优化》,第二版。施普林格,纽约(2006)·兹比尔1104.65059
[16] Tibshirani,R.:通过拉索进行回归收缩和选择。J R.Stat.Soc.B 58,267-288(1996)·Zbl 0850.62538号
[17] Vazirani,V.:近似算法。施普林格,柏林(2003)·兹比尔1005.68002·doi:10.1007/978-3-662-04565-7
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。