阿明·埃夫特哈里;安德鲁·汤普森 测度上的稀疏反问题：条件梯度和交换方法的等价性。 （英语） 兹比尔1421.90113 SIAM J.Optim公司。 29，第2期，1329-1349（2019）. 摘要：我们研究了一个非负Borel测度上的优化程序，该程序的解鼓励稀疏性。随着从“连续子空间”模型生成的数据中学习而来，对该程序的高效求解器的需求与日俱增，这是信号处理、机器学习和高维统计应用的最新趋势。我们证明了最近在文献中提出的应用于该无穷维程序的条件梯度法（CGM）与应用于其拉格朗日对偶（即半无限程序）的交换法（EM）等价。在这样做的过程中，我们将这种无限维程序正式地连接到已经确立的半无限编程领域。一方面，本文中建立的等价性允许我们为EM提供一个比文献中现有的更普遍的收敛速度。另一方面，这种联系和由此产生的几何见解可能在未来导致为无限维程序设计改进的CGM变体，这是一个活跃的研究课题。CGM也称为Frank-Wolfe算法。 引用于3文件 MSC公司： 90立方厘米25 凸面编程 90立方厘米 半无限规划 49平方米29 涉及对偶性的数值方法 关键词：措施优化;半无限规划;二元性;收敛性分析 软件：凯利 PDF格式BibTeX公司 XML格式引用 \textit{A.Eftekhari}和\textit{A.Thompson}，SIAM J.Optim。29，第2号，1329--1349（2019；Zbl 1421.90113） 全文： DOI程序 arXiv公司 参考文献： [1] F.巴赫，用子模函数学习：凸优化的观点，找到。趋势马赫数。学习。，6（2013），第145-373页·Zbl 1280.68001号 [2] F.巴赫，次梯度和条件梯度方法之间的对偶性、SIAM J.Optim.、。，25（2015），第115-129页·Zbl 1358.90155号 [3] A.Bagirov、N.Karmitsa和M.Ma¨kela¨，非光滑优化导论：理论、实践和软件，柏林施普林格，2014，https://doi.org/10.1007/978-3-319-08114-4。 ·兹比尔1312.90053 [4] A.Barvinok，凸性课程，梯度。学生数学。54，美国数学学会，普罗维登斯，RI，2002，https://doi.org/10.1090/gsm/054。 ·Zbl 1014.52001年 [5] D.Bertsekas和H.Yu，凸优化的统一多面体近似框架、SIAM J.Optim.、。，21（2011），第333-360页·Zbl 1218.90154号 [6] N.Boyd、G.Schiebinger和B.Recht，稀疏反问题的交替下降条件梯度法、SIAM J.Optim.、。，27（2017），第616-639页·Zbl 1365.90195号 [7] K.Bredies和H.K.Pikkarainen，测度空间中的反问题ESAIM控制优化。计算变量，19（2013），第190-218页·Zbl 1266.65083号 [8] E.Candès和C.Fernandez-Granda，噪声数据的超分辨率，J.傅里叶分析。申请。，19（2013），第1229-1254页·Zbl 1312.94015号 [9] E.Candès和C.Fernandez-Granda，走向超分辨率的数学理论、Comm.Pure Appl.公司。数学。，67（2014），第906-956页·Zbl 1350.94011号 [10] E.Candès和M.Wakin，压缩取样简介IEEE信号处理。Mag.，25（2008），第21-30页。 [11] E.J.Candès、Y.C.Eldar、D.Needell和P.Randall，具有相干和冗余字典的压缩传感，申请。计算。哈蒙。分析。，31（2011），第59-73页·Zbl 1215.94026号 [12] V.Chandrasekaran、B.Recht、P.Parrilo和A.Willsky，线性反问题的凸几何，找到。计算。数学。，12（2012），第805-849页·Zbl 1280.52008年 [13] Y.De Castro和F.Gamboa，利用Beurling最小外推精确重建，J.数学。分析。申请。，395（2012），第336-354页·Zbl 1302.94019号 [14] Q.Denoyelle、V.Duval和G.Peyreí，正测度稀疏反褶积的支持恢复，J.傅里叶分析。申请。，23（2017），第1153-1194页·Zbl 1417.65223号 [15] V.Duval，超分辨中非简并源条件的表征，预打印，https://arxiv.org/abs/1712.06373, 2017. [16] V.Duval和G.Peyreí，薄网格上的稀疏尖峰超分辨率\textupI:The Lasso，反问题，33（2017），055008，https://doi.org/10.1088/1361-6420/aa5e12。 [17] V.Duval和G.Peyreí，薄网格上的稀疏尖峰超分辨率：连续基追踪，反问题，33（2017），095008，https://doi.org/10.1088/1361-6420/aa7fce。 ·Zbl 1392.35332号 [18] A.Eftekhari、J.Romberg和M.Wakin，有限频率样本的匹配滤波，IEEE传输。《信息论》，59（2013），第3475-3496页·Zbl 1364.94123号 [19] A.Eftekhari、J.Tanner、A.Thompson、B.Toader和H.Tyagi，稀疏非负超解：简化和稳定，预印本，https://arxiv.org/abs/1804.01490, 2018. ·Zbl 1460.94019号 [20] A.Eftekhari和M.Wakin，贪婪是超级的：一种新的超分辨率迭代方法，2013年IEEE信号和信息处理全球会议，IEEE出版社，新泽西州皮斯卡塔韦，2013年。 [21] A.Eftekhari和M.Wakin，“贪婪是超级的：超分辨率的快速算法”补充材料《技术报告》，科罗拉多矿业学院，2015年。 [22] C.费尔南德斯·格兰达，支持超分辨率检测，《第十届采样理论与应用国际会议论文集》，德国不来梅，2013年；可在获取https://www.eurasip.org/Processings/Ext/SampTA2013/papers/p145-fernandez-granda.pdf。 [23] C.A.Floudas和O.Stein，自适应凸化算法：半无限规划的可行点法、SIAM J.Optim.、。，18（2008），第1187-1208页·Zbl 1216.90094号 [24] R.Fontecilla、T.Steihaug和R.Tapia，一类约束优化拟Newton方法的收敛理论，SIAM J.数字。分析。，24（1987），第1133-1151页·Zbl 0634.65045号 [25] M.Frank和P.Wolfe，二次规划的一种算法海军后勤研究所。，3（1956年），第95-110页。 [26] D.Garber和E.Hazan，强凸集上Frank-Wolfe方法的更快速度，预打印，https://arxiv.org/abs/1406.1305, 2014. [27] A.L.Gibbs和F.E.Su，关于概率度量的选择和定界《国际统计评论》，70（2002），第419-435页·兹比尔1217.62014 [28] M.Goberna和M.Lopez，线性半有限优化，威利，奇切斯特，1998年·Zbl 0909.90257号 [29] T.Hastie、R.Tibshirani和M.Wainwright，稀疏的统计学习：套索与推广查普曼和霍尔/CRC Monogr。统计师。申请。概率。，CRC出版社，2015年·Zbl 1319.68003号 [30] R.Hettich和K.Kortanek，半无限规划：理论、方法和应用，SIAM修订版，第35页（1993年），第380-429页·Zbl 0784.90090号 [31] C.霍洛韦，可行方向的Frank和Wolfe方法的推广，数学。程序。，6（1974年），第14-27页·Zbl 0283.90042号 [32] M.Jaggi，重温Frank-Wolfe：无投影稀疏凸优化，《第30届机器学习国际会议论文集》，Proc。机器。学习。2013年第28号决议，第427-435页；可在获取http://processes.mlr.press/v28/。 [33] S.Karlin和W.Studden，切比雪夫系统：在分析和统计中的应用《纯粹和应用数学》，《跨学科》，纽约，1966年·Zbl 0153.38902号 [34] C.凯利，优化的迭代方法，前部。申请。数学。，SIAM，宾夕法尼亚州费城，1999年，https://doi.org/10.1137/1.9781611970920。 ·Zbl 0934.90082号 [35] J.Kelley，求解凸规划的割平面法，《社会工业杂志》。申请。数学。，8（1960年），第703-712页，https://doi.org/10.1137/0108053。 ·Zbl 0098.12104号 [36] M.Krein和A.Nudelman，马尔可夫矩问题和极值问题，翻译。数学。单声道。，美国数学学会，普罗维登斯，RI，1977年·Zbl 0361.42014号 [37] S.Lacoste-Julien和M.Jaggi，关于Frank-Wolfe优化变量的全局线性收敛性，在高级神经信息处理中。系统。28，Curran Associates，纽约州Red Hook，2015年，第496-504页。 [38] S.Lacoste-Julien、M.Jaggi、M.Schmidt和P.Pletscher，结构SVM的块协调Frank-Wolfe优化，在国际机器学习会议上，Proc。机器。学习。2013年第28号决议，第53-61页；可在http://processes.mlr.press/v28/。 [39] M.Lopez和G.Still，半无限规划《欧洲期刊》。研究，180（2005），第491-518页·Zbl 1124.90042号 [40] S.Mallat，信号处理的小波之旅：稀疏方法，学术出版社，纽约，2008，https://doi.org/10.1016/B978-0-12-374370-1.X0001-8。 [41] Y.内斯特罗夫，凸优化入门讲座：基础课程，申请。最佳方案。87，施普林格，纽约，2013年，https://doi.org/10.1007/978-1-4419-8853-9。 [42] R.Rockafellar，凸分析普林斯顿地标数学。物理学。28，电子书版，普林斯顿大学出版社，新泽西州普林斯顿，2015年（1970年首次出版）。 [43] G.Schiebinger、E.Robeva和B.Recht，无分离超分辨《Inf.Inference》，7（2017），第1-30页，https://doi.org/10.1093/imaiai/iax006。 ·Zbl 1446.94027号 [44] M.Slawski和M.Hein，高维线性模型的非负最小二乘：无正则化的一致性和稀疏恢复，电子。《统计杂志》，第7卷（2013年），第3004-3056页·Zbl 1280.62086号 [45] D.斯莱宾，长椭球波函数、傅立叶分析和不确定性\texturepV：离散情况，贝尔系统。《技术期刊》，57（1978），第1371-1430页，https://doi.org/10.1002/j.1538-7305.1978.tb02104.x。 ·Zbl 0378.33006号 [46] G.Tang、B.N.Bhaskar和B.Recht，连续字典上的稀疏恢复：仅离散化《2013年信号、系统和计算机Asilomar会议》，IEEE出版社，新泽西州皮斯卡塔韦，2013年，第1043-1047页。 [47] G.Tang、B.Bhaskar、P.Shah和B.Recht，压缩传感脱离电网，IEEE传输。《信息论》，59（2013），第7465-7490页·兹比尔1364.94168 [48] R.Tibshirani，套索问题与唯一性，电子。《J Stat.》，第7卷（2012年）。 [49] J.Tropp和A.Gilbert，基于正交匹配追踪的随机测量信号恢复，IEEE传输。《信息论》，53（2007），第4655-4666页·Zbl 1288.94022号 [50] Z.Zhu和M.Wakin，使用多频带调制DPSS字典逼近采样正弦波和多频带信号，J.傅里叶分析。申请。，23（2017），第1263-1310页·Zbl 1392.94576号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。