×

为Dantzig选择器量身定制的快速拆分方法。 (英语) Zbl 1334.90165号

摘要:在本文中,我们介绍了一种求解Dantzig选择器问题的分裂方法,这是一种新的线性回归模型,在过去几年的文献中得到了广泛的研究。新方法非常简单,因为每次迭代,它只在方框上执行投影,并进行一些矩阵-向量乘积。我们证明了该方法的全局收敛性,并报告了一些有希望的数值结果,这表明新方法与文献中最近开发的一些最新方法具有竞争力。

MSC公司:

90立方 非线性规划
62年5月 线性回归;混合模型
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Becker,S.、CandéS,E.、Grant,M.:凸锥问题的模板及其在稀疏信号恢复中的应用。数学。程序。计算。3, 165-218 (2011) ·兹比尔1257.90042 ·doi:10.1007/s12532-011-0029-5
[2] Bertsekas,D.,Tsitsiklis,J.:并行和分布式计算,数值方法。Prentice-Hall,Englewood Cliffs(1989)·Zbl 0743.65107号
[3] Bickel,P.:讨论:dantzig选择器:当\[P\]P远大于\[n\]n时的统计估计。Ann.Stat.35(6),2352-2357(2007)·doi:10.1214/00905360700000424
[4] Boyd,S.、Parikh,N.、Chu,E.、Peleato,B.、Eckstein,J.:通过交替方向乘数法进行分布式优化和统计学习。已找到。趋势马赫数。学习。3, 1-122 (2010) ·Zbl 1229.90122号 ·doi:10.1561/220000016
[5] Breiman,L.:使用非负garrote进行更好的子集回归。技术计量37,373-384(1995)·Zbl 0862.62059号 ·doi:10.1080/00401706.1995.10484371
[6] Cai,T.,Lv,J.:讨论:dantzig选择器:当p远大于n时的统计估计。Ann.Stat.35,2365-2368(2007)·doi:10.1214/00905360700000042
[7] Candés,E.,Tao,T.:Dantzig选择器:当p远大于n时的统计估计Ann.Stat.35,2313-2351(2007)·Zbl 1139.62019号 ·doi:10.1214/00905360000001523
[8] Candés,E.,Tao,T.:重新加入:dantzig选择器:当p远大于n时的统计估计。Ann.Stat.35,2392-2404(2007)·Zbl 1139.62019号 ·doi:10.1214/09053607000000532
[9] Chan,R.,Yang,J.,Yuan,X.:小波域图像修复的交替方向方法。SIAM J.成像科学。4, 807-826 (2011) ·Zbl 1234.68448号 ·数字对象标识代码:10.1137/100807247
[10] Chen,C.,He,B.,Yuan,X.:通过交替方向方法完成矩阵。IMA J.数字。分析。32, 227-245 (2012) ·兹比尔1236.65043 ·doi:10.1093/imanum/drq039
[11] Dobra,A.:全基因组数据的变量选择和依赖网络。生物统计学10,621-639(2009)·Zbl 1437.62444号 ·doi:10.1093/biostatistics/kxp018
[12] Donoho,D.,Tsaig,Y.:\[\ell_1\]的快速解1当解可能稀疏时的最小化问题。IEEE传输。《信息论》54,4789-4812(2008)·Zbl 1247.94009号 ·doi:10.1109/TIT.2008.929958
[13] Efron,B.,Hastie,T.,Johnstone,I.,Tibshirani,R.:最小角度回归。Ann.Stat.32,407-451(2004)·Zbl 1091.62054号 ·doi:10.1214/009053604000000067
[14] Efron,B.,Hastie,T.,Tibshirani,R.:讨论:dantzig选择器:当p远大于n时的统计估计Ann.Stat.35,2358-2364(2007)·doi:10.1214/009053607000000433
[15] Esser,E.,Zhang,X.,Chan,T.:一类用于电视最小化的一阶原始-对偶算法的一般框架。SIAM J.成像科学。3, 1015-1046 (2010) ·Zbl 1206.90117号 ·数字对象标识码:10.1137/09076934X
[16] Facchinei,F.,Pang,J.:有限维变分不等式和互补性问题。施普林格,纽约(2003)·Zbl 1062.90002号
[17] Friedlander,M.,Saunders,M.:讨论:dantzig选择器:当p远大于n时的统计估计Ann.Stat.35,2385-2391(2007)·doi:10.1214/009053607000000479
[18] Gabay,D.,Mercier,B.:通过有限元近似解非线性变分问题的对偶算法。计算。数学。申请。2, 16-40 (1976) ·Zbl 0352.65034号 ·doi:10.1016/0898-1221(76)90003-1
[19] Golub,T.、Slonim,D.、Tamayo,P.、Huard,C.、Gaasenbeek,M.、Mesirov,J.、Coller,H.、Loh,M.和Downing,J.,Caligiuri,M.,Bloomfield,C.、Lander,E.:癌症的分子分类:通过基因表达监测进行类别发现和预测。《科学》286,531-537(1999)·doi:10.1126/science.286.5439.531
[20] Han,D.,He,H.,Yang,H,Yuan,X.:一种用于线性约束可分离凸极小化的自定义Douglas-Rachford分裂算法。数字。数学。127, 167-200 (2014) ·Zbl 1295.90046号 ·doi:10.1007/s00211-013-0580-2
[21] 何,B.,徐,M.,袁,X.:用交替方向法求解大规模最小二乘协方差矩阵问题。SIAM J.矩阵分析。申请。32, 136-152 (2011) ·Zbl 1243.49039号 ·doi:10.1137/090768813
[22] Hestenes,M.:乘数法和梯度法。J.优化。理论应用。4, 303-320 (1969) ·Zbl 0174.20705号 ·doi:10.1007/BF00927673
[23] James,G.,Radchenko,P.,Lv,J.:DASSO:Dantzig选择器和套索之间的连接。J.R.Stat.Soc.B 71,127-142(2009年)·兹比尔1231.62129 ·文件编号:10.1111/j.1467-9868.2008.00668.x
[24] Lu,Z.:一类锥规划的原对偶一阶方法。最佳方案。方法软件。28, 1262-1281 (2013) ·Zbl 1310.65067号 ·doi:10.1080/10556788.2012.697901
[25] Lu,Z.,Pong,T.,Zhang,Y.:寻找Dantzig选择器的交替方向方法。计算。统计数据分析。564037-4046(2012年)·Zbl 1255.6206号 ·doi:10.1016/j.csda.2012.04.019
[26] Meinshausen,N.,Rocha,G.,Yu,B.:讨论:三个表亲的故事:Lasso,L2Boosting和Dantzig。《美国年鉴》第35卷第6期,第2373-2384页(2007年)·doi:10.1214/009053607000000460
[27] Powell,M.:最小化问题中非线性约束的一种方法。摘自:R.Fletcher(编辑)《优化》,第283-298页。纽约学术出版社(1969)·Zbl 1263.90061号
[28] Ritov,Y.:讨论:Dantzig选择器:当p远大于n.Ann.Stat.35,2370-2372时的统计估计(2007)·doi:10.1214/009053607000000451
[29] Romberg,J.:Dantzig选择器和广义阈值。参见:IEEE第42届信息科学和系统年会,第22-25页。新泽西州普林斯顿(2008)·兹比尔1257.90042
[30] Tibshirani,R.:通过LASSO进行回归收缩和选择。J.R.Stat.Soc.B 58,267-288(1996)·Zbl 0850.62538号
[31] Wang,X.,Yuan,X.:Dantzig选择器的线性化交替方向乘法器方法。SIAM J.科学。计算。34,A2792-A2811(2012年)·Zbl 1263.90061号 ·数字对象标识代码:10.1137/10833543
[32] Yang,J.,Zhang,Y.:\[\ell_1\]的交替方向算法1-压缩传感中的问题。SIAM J.科学。计算。332, 250-278 (2011) ·Zbl 1256.65060号 ·数字对象标识代码:10.1137/09077761
[33] Yeung,K.,Bumgarner,R.,Raftery,A.:贝叶斯模型平均:改进微阵列数据的多类、基因选择和分类工具的开发。生物信息学21,2394-2402(2005)·doi:10.1093/bioinformatics/bti319
[34] Yuan,X.:协方差选择模型的交替方向方法。科学杂志。计算。51, 261-273 (2012) ·Zbl 1255.65031号 ·doi:10.1007/s10915-011-9507-1
[35] Zou,H.,Hastie,T.:通过弹性网络的正则化和变量选择。J.R.Stat.Soc.B 67,301-320(2005)·Zbl 1069.62054号 ·数字对象标识代码:10.1111/j.1467-9868.2005.0050.x
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。