博内蒂尼，S。;A.Benfenati。;鲁杰罗，V。 （ε）-次梯度方法的缩放技术。 （英语） Zbl 1347.65106号 SIAM J.Optim公司。 26，第3期，1741-1772（2016）. 摘要：最近关于光滑优化一阶方法的文献表明，通过改变步长和梯度缩放，可以显著改善实际收敛行为，使这类算法对各种相关应用具有吸引力。在本文中，我们在非光滑凸问题的\（ε）-次梯度方法的背景下，结合两种不同的步长选择策略，引入了一个可变度量。我们在前向-后向（ε）-次梯度分裂方法的一般框架中对所提方法进行了理论收敛性分析，并讨论了实际实现问题。为了说明该方法的有效性，我们考虑了图像恢复框架中的一个具体问题，并数值评估了可变缩放和步长选择策略对收敛行为的影响。 引用于三文件 MSC公司： 65千5 数值数学规划方法 90C25型 凸面编程 94A08型 信息与通信理论中的图像处理（压缩、重建等） 65D18天 计算机图形学、图像分析和计算几何的数值方面 关键词：前向后退法;可变公制;步长选择规则;缩放原始-对偶混合梯度算法;电视恢复;汇聚;非光滑凸问题;图像复原 PDF格式BibTeX公司 XML格式引用 \textit{S.Bonettini}等人，SIAM J.Optim。26，第3号，1741-1772（2016；Zbl 1347.65106） 全文： 内政部 arXiv公司 参考文献： [1] Y.I.Alber，A.N.Iusem和M.V.Solodov，{关于Hilbert空间中非光滑凸优化的投影次梯度方法}，数学。程序。，81（1998），第23-35页·Zbl 0919.90122号 [2] R.D.Asmund、D.D.Serafino、F.Riccio和G.Toraldo，《关于最速下降方法的光谱性质》，IMAJ.Numer。分析。，33（2013），第1416-1435页·Zbl 1321.65095号 [3] A.Auslender和M.Teboulle，{不可微凸极小化和变分等式的非欧几里德距离投影次梯度方法}，数学。程序。序列号。B、 120（2009），第27-48页·Zbl 1190.90118号 [4] J.M.Bardsley和A.Luttman，{不适定问题的全变分泊松似然估计}，高级计算。数学。，31（2009），第35-59页·Zbl 1171.94001号 [5] J.M.Bardsley和J.G.Nagy，{非负约束天文成像的协方差预条件迭代方法}，SIAM J.矩阵分析。A.，27（2006），第1184-1197页·Zbl 1102.65044号 [6] J.Barzilai和J.M.Borwein，{两点步长梯度法}，IMA J.Numer。分析。，8（1988），第141-148页·Zbl 0638.65055号 [7] H.H.Bauschke和P.L.Combettes，{Hilbert空间中的凸分析和单调算子理论}，CMS图书数学。Ouvrages数学。SMC，施普林格，纽约，2011年·Zbl 1218.47001号 [8] M.Bertero、P.Boccacci、G.Desidera和G.Vicidomini，《用泊松数据消除图像模糊：从细胞到星系》，《反问题》，25（2009），123006·Zbl 1186.85001号 [9] M.Bertero、H.Lanteíri和L.Zanni，{迭代图像重建：一个观点}，《生物医学成像和强度调制放射治疗（IMRT）中的数学方法》，Y.Censor、M.Jiang和A.K.Louis编辑，Birkhauser-Verlag，意大利比萨，2008年，第37-63页。 [10] D.Bertsekas，{凸优化算法}，凸优化理论补充在线章节，Athena Scientific，Nashua，NH，2009，pp.251-489；可在线访问http://www.athenasc.com/convexdualitycapter.pdf（2012年11月5日访问）·Zbl 1242.90001号 [11] S.Bonettini、A.Chiuso和M.Prato，《动力学系统中贝叶斯学习的比例梯度投影方法》，SIAM J.Sci。计算。，37（2015），第A1297-A1318页·Zbl 1461.65133号 [12] S.Bonettini、G.Landi、E.L.Piccolomini和L.Zanni，《天文图像去模糊中梯度投影类型方法的缩放技术》，国际计算机杂志。数学。，90（2013年），第9-29页·兹比尔1278.68326 [13] S.Bonettini、I.Loris、F.Porta和M.Prato，{非光滑优化的可变度量非精确线搜索方法}，SIAM J.Optim。，26（2016），第891-921页·Zbl 1338.65157号 [14] S.Bonettini和M.Prato，《稀疏傅里叶数据的非负图像重建：一种新的反褶积算法》，《反问题》，26（2010），095001·Zbl 1201.94010号 [15] S.Bonettini和V.Ruggiero，《基于泊松数据的总变差图像恢复的交替外梯度法》，《反问题》，27（2011），095001·Zbl 1252.94008号 [16] S.Bonettini和V.Ruggiero，{关于全变分图像复原的原-对偶混合梯度算法的收敛性}，J.Math。《成像视觉》，44（2012），第236-253页·兹比尔1255.68210 [17] S.Bonettini和T.Serafini，{用不精确内点法进行非负约束图像去模糊}，J.Compute。申请。数学。，231（2009），第236-248页·Zbl 1167.94003号 [18] S.Bonettini、R.Zanella和L.Zanni，{约束图像去模糊的缩放梯度投影方法}，反问题，25（2009），015002·Zbl 1155.94011号 [19] U.Braönnlund，K.C.Kiwiel和P.O.Lindberg，{凸不可微优化的下降近水平束方法}，Oper。Res.Lett.公司。，17（1995），第121-126页·Zbl 0843.90093号 [20] K.Bredies和D.A.Lorentz，{迭代软阈值的线性收敛}，J.Fourier Ana。申请。，14（2008），第813-837页·Zbl 1175.65061号 [21] Y.Chen，W.W.Hager，M.Yashtini，X.Ye，和H.Zhang，{变步长Bregman算子分裂用于全变分图像重建}，计算。最佳方案。申请。，54（2012），第317-342页·Zbl 1290.90071号 [22] E.Chouzenoux、J.-C.Pesquet和A.Repetti，《最小化可微函数和凸函数之和的可变度量前向后退算法》，J.Optim。理论应用。，162（2014），第107-132页·Zbl 1318.90058号 [23] P.L.Combettes，{一些优化算法的准Feкjerian分析}，Stud.Comput。数学。，8（2001），第115-152页·Zbl 0992.65065号 [24] P.L.Combettes和B.C.Vu͂，{变度量拟Fejer单调}，非线性分析。，78（2013），第17-31页·兹比尔1266.65087 [25] P.L.Combettes和B.C.Vu͂，{可变度量正向反向分裂及其在二元性中单调包含的应用}，优化，63（2014），第1289-1318页·Zbl 1309.90109号 [26] L.Condat，{它是一种求解涉及Lipschitz、近似和线性复合项}的凸优化问题的原对偶分裂方法，J.Optim。理论应用。，158（2013），第460-479页·Zbl 1272.90110号 [27] R.Correa和C.Lemareíchal，{凸极小化一些算法的收敛性}，数学。程序。，62（1993），第261-275页·兹伯利0805.90083 [28] J.Y.B.Cruz，{关于最小化两个非光滑凸函数之和的近端次梯度分裂方法}，集值变分分析。，出版中，http://dx.doi.org/10.1007/s11228-016-0376-5doi:10.1007/s11228-016-0376-5·Zbl 1365.65160号 [29] J.Y.B.Cruz和T.T.A.Nghia，{关于线性搜索的前向-后向分裂方法的收敛性}，Optim。方法软件。，出版中，http://dx.doi.org/10.1080/10556788.2016.1214959doi:10.1080/10556788.2016.1214959·Zbl 1354.65116号 [30] Y.H.Dai、W.W.Hager、K.Schittkowski和H.Zhang，{无约束优化的循环Barzilai-Borwein方法}，IMA J.Numer。分析。，26（2006），第604-627页·Zbl 1147.65315号 [31] G.d'Antonio和A.Frangioni，{检测条件近似次梯度方法的收敛性分析}，SIAM J.Optim。，20（2009年），第357-386页·Zbl 1187.90222号 [32] F.-X.Dupeí，M.Fadili和J.-L.Starck，{泊松噪声的逆问题：原始和原始-对偶分裂}，第18届IEEE图像处理国际会议，布鲁塞尔，2011，IEEE，新泽西州皮斯卡塔韦，2011，第1901-1904页。 [33] F.-X.Dupeí，M.Fadili和J.-L.Starck，{各种噪声模型和混合正则化的线性逆问题}，《第五届国际ICST性能评估方法和工具会议论文集》，布鲁塞尔，2011年，柏林斯普林格，2011年；第621-626页。 [34] Y.M.Ermoliev，{随机拟梯度方法及其在系统优化中的应用}，《随机学》，9（1983），第1-36页·Zbl 0512.90079号 [35] E.Esser，X.Zhang和T.F.Chan，{成像科学中凸优化的一类一阶原对偶算法的一般框架}，SIAM J.成像科学。，3（2010年），第1015-1046页·Zbl 1206.90117号 [36] M.A.T.Figueiredo和J.M.Bioucas-Dias，{使用交替方向优化恢复泊松图像}，IEEE Trans。图像处理。，19（2010年），第3133-3145页·Zbl 1371.94128号 [37] R·弗莱彻（R.Fletcher），《有限记忆最速下降法》，数学。程序。，135（2012），第413-436页·Zbl 1254.90113号 [38] G.Frassoldati、G.Zanghirati和L.Zanni，{it梯度法中的新自适应步长选择}，J.Ind.Manag。最佳。，4（2008），第299-312页·Zbl 1161.90524号 [39] J.L.Goffin，{关于次梯度优化方法的收敛速度}，数学。程序。，13（1977年），第329-347页·Zbl 0368.90119号 [40] J.L.Goffin和K.C.Kiwiel，{简单次梯度水平方法的收敛}，数学。程序。，85（1999），第207-211页·兹比尔0956.90032 [41] W.W.Hager，B.A.Mair和H.Zhang，{箱约束优化的仿射尺度内点CBB方法}，数学。程序。，119（2009），第1-32页·Zbl 1168.90007号 [42] W.W.Hager、M.Yashtini和H.Zhang，{it变步长Bregman算子分裂算法的O（1/k）收敛速度}，SIAM J.Numer。分析。，54（2016），第1535-1556页·Zbl 1381.49009号 [43] 何永友，袁晓霞，{关于原-对偶混合梯度算法的收敛性}，SIAM J.Imaging Sci。，7（2014），第2526-2537页·Zbl 1308.90129号 [44] J.-B.Hiriart Urruty和C.Lemaréchal，《凸分析和最小化算法》，Springer Verlag，纽约，1993年·Zbl 0795.49001号 [45] K.C.Kiwiel，{\it凸优化的次梯度投影方法的效率，第一部分：一般水平方法}，SIAM J.控制优化。，34（1996），第660-676页·Zbl 0846.90084号 [46] K.C.Kiwiel，{凸优化次梯度投影方法的效率，第二部分：蕴涵与扩展}，SIAM J.控制优化。，34（1996年），第677-697页·Zbl 0846.90085号 [47] K.C.Kiwiel，{凸优化近似和增量次梯度方法的收敛性}，SIAM J.Optim。，14（2004），第807-840页·Zbl 1063.90039号 [48] H.Lanteíri、M.Roche和C.Aime，{带正约束的惩罚最大似然图像恢复：乘法算法}，反问题，18（2002），第1397-1419页·Zbl 1023.62099号 [49] H.Lanteíri，M.Roche，O.Cuevas，and C.Aime，{设计具有非负约束的最大似然信号恢复乘法算法的通用方法}，信号处理。，81（2001），第945-974页·Zbl 1080.94512号 [50] T.Larsson，M.Patriksson，and A.-B.Stromberg，{关于凸规划和凹凸鞍点问题的条件次梯度方法的收敛性}，欧洲期刊Oper。研究，151（2003），第461-473页·Zbl 1053.90107号 [51] D.A.Lorenz和T.Pock，{单调包含的惯性前向后退算法}，J.Math。《成像视觉》，51（2015），第311-325页·Zbl 1327.47063号 [52] A.Nedić，凸最小化的亚梯度方法，博士论文，麻省理工学院电气工程和计算机科学系，马萨诸塞州剑桥，2002，ŭlhttp://hdl.handle.net/1721.1/16843。 [53] A.Nedic和D.P.Bertsekas，{不可微优化的增量次梯度方法}，SIAM J.Optim。，12（2001），第109-138页·Zbl 0991.90099号 [54] Y.Nesterov，{凸优化入门讲座：基础课程}，Kluwer，波士顿，2004年·Zbl 1086.90045号 [55] E.S.H.Neto和A.R.D.Pierro，{约束凸优化的增量次梯度：统一框架和新方法}，数学。程序。，103（2005），第127-152页。 [56] B.Polyak，《优化导论》，优化软件，纽约，1987年。 [57] M.Prato、A.L.Camera、S.Bonettini和M.Bertero，{自适应光学天文成像的收敛盲反褶积方法}，反问题，29（2013），065017·Zbl 1286.68477号 [58] S.M.Robinson，{一类凸函数的ε-次梯度下降法的线性收敛}，数学。程序。，序列号。A、 86（1999），第41-50页·Zbl 1029.90056号 [59] R.T.Rockafellar，{凸分析}，普林斯顿大学出版社，新泽西州普林斯顿，1970年·Zbl 0193.18401号 [60] L.I.Rudin、S.Osher和E.Fatemi，{基于非线性总变分的噪声去除算法}，J.Phys。D.，60（1992），第259-268页·Zbl 0780.49028号 [61] S.Setzer、G.Steidl和T.Teuber，｛\it通过分裂Bregman技术对Poissonian图像进行去模糊处理｝，J.Vis。Commun公司。图像表示。，21（2010），第193-199页。 [62] S.Shalev-Shwartz，{在线学习和在线凸优化}，发现。趋势马赫数。学习。，4（2011年），第107-194页·Zbl 1253.68190号 [63] N.Z.Shor，{不可微函数的最小化方法}，Springer-Verlag，柏林，1985·Zbl 0561.90058号 [64] M.V.Solodov和S.K.Zaviev，{广义梯度型算法的误差稳定性性质}，J.Optim。理论应用。，98（1998），第663-680页·Zbl 0913.90245号 [65] C.Theys、N.Dobigeon、J.-Y.Tourneret和H.Lanteíri，{使用比例梯度法对高光谱图像进行线性分解}，《IEEE/SP第十五届统计信号处理研讨会论文集》，IEEE，新泽西州皮斯卡塔韦，2009年，第729-732页。 [66] S.Villa、S.Salzo、L.Baldassarre和A.Verri，{加速和不精确正向反向算法}，SIAM J.Optim。，23（2013），第1607-1633页·Zbl 1295.90049号 [67] R.M.Willett和R.D.Nowak，《血小板：光子有限医学成像中恢复边缘和表面的多尺度方法》，IEEE Trans。《医学成像》，22（2003），第332-350页。 [68] R.Zanella、P.Boccacci、L.Zanni和M.Bertero，{有效的梯度投影法，用于边缘保持去除泊松噪声}，反问题，25（2009），045010·Zbl 1163.65042号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。