尼古拉斯·博伊德;杰弗里·希宾格;本杰明·雷赫特 稀疏反问题的交替下降条件梯度法。 （英语） Zbl 1365.90195号 SIAM J.Optim公司。 27，第2期，616-639（2017）. 摘要：我们提出了一种经典条件梯度法的变体，用于求解具有可微观测模型的稀疏反问题。此类模型出现在许多实际问题中，包括超分辨率显微镜、时间序列建模和矩阵完成。我们的算法结合了非凸和凸优化技术：我们利用可微观测模型提出了全局条件梯度步骤与非凸局部搜索交替进行。这种混合给出了凸优化的理论全局最优性保证和停止条件，以及与非凸优化相关的性能和建模灵活性。我们的实验表明，我们的技术在一些应用中取得了最先进的结果。 引用于39文件 MSC公司： 90C25型 凸面编程 90立方 非线性规划 90立方厘米 半无限规划 90碳49 极点和枢轴方法 90摄氏52度 减少梯度类型的方法 90 C90 数学规划的应用 49立方米7 基于非线性规划的数值方法 65千5 数值数学规划方法 关键词：条件梯度法;压缩感知;措施;稀疏;反问题;凸优化;半无限规划 软件：SDPLR公司;SPGL1型;k平均值++;水母 PDF格式BibTeX公司 XML格式引用 \textit{N.Boyd}等人，SIAM J.Optim。27，第2号，616--639（2017；Zbl 1365.90195） 全文： 内政部 arXiv公司 参考文献： [1] A.Agarwal、A.Anandkumar、P.Jain和P.Netrapali，通过交替最小化学习很少使用的过完备词典，SIAM J.Optim。，26（2016），第2775-2799页·Zbl 1358.90104号 [2] S.Arora、R.Ge、T.Ma和A.Moitra，{稀疏编码的简单、高效和神经算法}，预印本，arXiv:1503.007782015。 [3] D.Arthur和S.Vassilvitskii，{k均值++：仔细播种的优势}，第十八届ACM-SIAM离散算法年会论文集，ACM，纽约，2007年，第1027-1035页·Zbl 1302.68273号 [4] F.Bach，{结构矩阵分解的凸松弛}，arXiv:1309.3117，2013年，第1355-1362页。 [5] F.Bach、S.Lacoste-Julien和G.Obozinski，《关于羊群算法和条件梯度算法之间的等价性》，摘自《信息与传播》，Omnipress，威斯康星州麦迪逊，2012年，第1355-1362页。 [6] W.Bajwa、J.Haupt、A.Sayeed和R.Nowak。，压缩信道感知：估计稀疏多径信道的新方法。IEEE，98（2010），第1058-1076页。 [7] R.Baraniuk和P.Steeghs。，{压缩雷达成像}，《IEEE雷达会议》，马萨诸塞州沃尔瑟姆，IEEE，新泽西州皮斯卡塔韦，2007年，第128-133页。 [8] K.Bredies和H.K.Pikkarainen，{测度空间中的逆问题}，ESAIM控制优化。计算变量，19（2013），第190-218页·Zbl 1266.65083号 [9] S.Burer和R.D.Monteiro，{通过低秩因式分解求解半定规划的非线性规划算法}，数学。程序。，95（2003），第329-357页·Zbl 1030.90077号 [10] E.Candes和C.Fernandez-Granda。，{朝向超分辨率的数学理论}，Comm.Pure Appl。《数学》，67（2014），第906-956页·Zbl 1350.94011号 [11] E.Candès和B.Recht，{通过凸优化实现精确矩阵完成}，Commun。ACM，55（2012），第111-119页·Zbl 1219.90124号 [12] V.Chandrasekaran、B.Recht、P.A.Parrilo和A.S.Willsky，《线性反问题的凸几何》，发现。计算。数学。，12（2012），第805-849页·Zbl 1280.52008年 [13] B.L.R.De Moor，编辑，{\it DaISy}。 [14] B.G.R.de Prony，{\it Essai experimental et analypique:Sur les lois de la scalectabilite de fluides elastique et Sur celles de la force expansion de la vapeur de l’alkool，a differentates temperatures}，J.Eíc。理工大学。，1（1795年），第24-76页。 [15] V.Demyanov和A.Rubinov，《优化问题中的近似方法》，《科学与数学中的现代分析和计算方法》，爱思唯尔出版社，纽约，1970年·Zbl 0217.46203号 [16] M.Duarte和R.Baraniuk，《光谱压缩传感》，应用。计算。哈蒙。分析。，35（2013），第111-129页·Zbl 1336.94016号 [17] N.Dunford、J.T.Schwartz、W.G.Bade和R.G.Bartle，{线性算子，第}1部分，威利交叉科学，纽约，1958年·Zbl 0146.12601号 [18] J.Dunn和S.Harshbarger，具有开环步长规则的条件梯度算法，J.Math。分析。申请。，62（1978年），第432-444页·Zbl 0374.49017号 [19] C.Ekanadham、D.Tranchina和E.P.Simoncelli，《神经棘波识别与连续基础追踪》，计算与系统神经科学（CoSyNe），犹他州盐湖城，2011年·Zbl 1392.94192号 [20] D.Evanko，《引言：衍射极限下的荧光成像》，《自然方法》，6（2009），第19-20页。 [21] A.C.Fannijiang、T.Strohmer和P.Yan，{稀疏物体的压缩遥感}，SIAM J.成像科学。，3（2010年），第595-618页·Zbl 1201.45017号 [22] G.B.Folland，《真实分析》，威利出版社，纽约，1999年·Zbl 0924.28001号 [23] B.I.Group，{单分子定位显微镜工作台软件}，（2013）。 [24] A.Hansson，Z.Liu和L.Vandenberghe，{通过加权核规范优化进行子空间系统识别}，预印本，arXiv:1207.00232012。 [25] Z.Harchaoui，A.Juditsky和A.Nemirovski，{规范化光滑凸优化的条件梯度算法}，数学。程序。，152（2014），第75-112页·Zbl 1336.90069号 [26] M.Herman和T.Strohmer，{通过压缩传感的高分辨率雷达}，IEEE Trans。信号处理。，57（2009），第2275-2284页·Zbl 1391.94236号 [27] R.Hettich和K.O.Kortanek，《半无限规划：理论、方法和应用》，SIAM Rev.，35（1993），第380-429页·Zbl 0784.90090号 [28] H.Hindi，{\it癌症放射治疗计划优化方法教程}，美国控制会议（ACC），IEEE，新泽西州皮斯卡塔韦，2013年，第6804-6816页。 [29] M.Jaggi，《重新审视Frank-Wolfe:无投影稀疏凸优化》，摘自ICML，2013年，纽约州Red Hook市Curran，第I-427-I-435页。 [30] M.Jaggi和M.Sulovsky∧，{\it核规范正则化问题的简单算法}，《第27届国际机器学习会议论文集》（ICML-10），Omnipress，麦迪逊，威斯康星州，2010年，第471-478页。 [31] P.Jain、P.Netrapalli和S.Sanghavi，{使用交替最小化完成低库矩阵}，《第四十五届ACM计算理论研讨会论文集》，ACM，纽约，2013年，第665-674页·Zbl 1293.65073号 [32] S.G.Johnson，｛\it NLopt｝，（2011年）。 [33] R.H.Keshavan，{协同过滤的高效算法}，博士论文，斯坦福大学，加州帕洛阿尔托，2012年。 [34] D.Koller和N.Friedman，《概率图形模型：原理和技术——自适应计算和机器学习》，麻省理工学院出版社，马萨诸塞州剑桥，2009年·Zbl 1183.68483号 [35] S.Lacoste-Julien、F.Lindsten和F.Bach，《序列内核羊群：粒子过滤的Frank-Wolfe优化》，J.Mach。学习。《W&CP研究》，38（2015），第544-552页。 [36] S.Laue，《凸半定优化的混合算法》，载于《第29届国际机器学习会议论文集》（ICML-12），J.Langford和J.Pineau编辑，纽约，2012年，威斯康星州麦迪逊Omnipress，2012年，第177-184页。 [37] H.Y.Liu、E.Jonas、L.Tian、J.Zhong、B.Recht和L.Waller，使用相空间测量在体积散射介质中的三维成像}，Opt。快报，23（2015），第14461-14471页。 [38] D.Malioutov、M.Çetin和A.S.Willsky，《利用传感器阵列进行源定位的稀疏信号重建透视图》，IEEE Trans。信号处理。，53（2005），第3010-3022页·Zbl 1370.94191号 [39] P.Netrapalli、P.Jain和S.Sanghavi，{使用交替最小化进行相位检索}，《神经信息处理系统进展》，26（2013），第2796-2804页·兹比尔1293.65073 [40] R.Ostrovsky、Y.Rabani、L.J.Schulman和C.Swamy，{it（L）loyd-type方法对（k）-均值问题的有效性}，J.ACM，59（2012），28·Zbl 1281.68229号 [41] F.Pukelsheim，{实验的优化设计}，经典应用。数学。50，SIAM，费城，2006年·Zbl 1101.62063号 [42] K.G.Puschmann和F.Kneer，《关于天文成像中的超分辨率》，Astron。天体物理学。，436（2005），第373-378页。 [43] N.Rao、P.Shah和S.Wright，{原子规范正则化的前向-后向贪婪算法}，prprint，arXiv:1404.56922014·Zbl 1394.94471号 [44] H.Rauhut，{稀疏三角多项式的随机抽样}，应用。计算。哈蒙。分析。，22（2007），第16-42页·Zbl 1123.94004号 [45] B.Recht和C.Reö，{大规模矩阵补全的并行随机梯度算法}，数学。程序。计算。，5（2013年），第201-226页·Zbl 1275.90039号 [46] R.T.Rockafellar，{凸分析}，普林斯顿大学出版社，新泽西州普林斯顿，1970年·兹比尔0193.18401 [47] M.Rust、M.Bates和X.Zhuang，《随机光学重建显微镜（风暴）的亚衍射极限成像》，《自然方法》，3（2006），第793-796页。 [48] D.Sage、H.Kirshner、T.Pengo、N.Stuurman、J.Min、S.Manley和M.Unser，《单分子定位显微镜软件包的定量评估》，《自然方法》，12（2015），第717-724页。 [49] P.Shah、B.Bhaskar、G.Tang和B.Recht，{通过原子规范正则化进行线性系统识别}，预印本，arXiv:1204.05902012。 [50] A.Shapiro，{半无限规划，对偶，离散化和最优性条件}，《优化》，58（2009），第133-161页·Zbl 1158.90410号 [51] J.Skaf和S.Boyd，探索次优集的技术，Optim。《工程》，11（2010），第319-337页·Zbl 1273.65089号 [52] G.Tang、B.Bhaskar和B.Recht，《连续字典上的稀疏恢复：只是离散化》，2013年Asilomar信号、系统和计算机会议，IEEE，新泽西州皮斯卡塔韦，2013年，第1043-1047页。 [53] G.Tang、B.N.Bhaskar、P.Shah和B.Recht，《电网外压缩传感》，IEEE Trans。通知。《理论》，59（2013），第7465-7490页·Zbl 1364.94168号 [54] R.J.Tibshirani，{快速分段算法的一般框架}，J.Mach。学习。第16号决议（2015年），第2543-2588页·兹比尔1351.62141 [55] E.van den Berg和M.P.Friedlander，{最小二乘约束稀疏优化}，SIAM J.Optim。，21（2011），第1201-1229页·Zbl 1242.49061号 [56] X.Zhang，Y.Yu和D.Schuurmans，{矩阵范数正则化的加速训练：一种增强方法}，《神经信息处理系统的进展》，第25期，2012年，第2906-2914页。 [57] L.Zhu、W.Zhang、D.Elnatanand.、。，和B.Huang，{使用压缩传感加快风暴}，《自然方法》，9（2012），第721-723页。 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。