×
陈云梅;蓝，广汇;欧阳玉元;张伟

无约束和球约束凸优化的快速束级方法。 （英语） Zbl 1414.90263号

计算。最佳方案。应用。 73，第1期，159-199（2019）.
摘要：在本文中，我们研究了一类特殊的一阶方法，即束级（BL）类型方法，它可以通过切割平面模型利用历史一阶信息来加速实际求解。最近，Lan（149（1–2）：1–45，2015）表明，对于求解黑盒和结构化凸规划（CP）问题，加速近似水平（APL）方法及其变种均匀平滑水平（USL）方法具有最佳迭代复杂度，而无需输入任何平滑度信息。然而，这些算法需要假设可行集的有界性，其效率依赖于两个相关子问题的解。BL方法的一些其他变体可以处理无界可行集，但没有提供迭代复杂性。在这项工作中，我们开发了快速APL（FAPL）方法和快速USL（FUSL）方法，可以显著提高APL和USL方法在计算时间和求解质量方面的实际性能。FAPL和FUSL具有与APL和USL相同的最优迭代复杂度，而每次迭代中的子问题数量从两个减少到一个，并给出了求解这些算法中唯一子问题的精确方法。此外，我们引入了一个通用算法框架，通过求解一系列具有最佳迭代复杂度的球约束CP问题来解决无约束CP问题。我们在求解一些大规模最小二乘问题和基于全变分的图像重建方面的数值结果表明，这些新的BL型方法相对于APL、USL和其他一些一阶方法具有优势。

引用于1审查
引用于5文件

MSC公司：

90C25型 凸面编程
90C06型 数学规划中的大尺度问题
90C22型 半定规划
49立方米7 基于非线性规划的数值方法

关键词：

凸规划;一阶;最优化方法;捆绑式方法;总变化量;图像重建

软件：

莫塞克;NESTA公司
PDF格式BibTeX公司 XML格式引用
\textit{Y.Chen}等人，计算。最佳方案。申请。73，第1号，159--199（2019；Zbl 1414.90263）
全文： 内政部 arXiv公司

参考文献：

[1] Lan，G.：对于光滑和非光滑凸优化，束级类型方法一致最优。数学。程序。149（1-2），1-45（2015）·兹比尔1321.90104 ·doi:10.1007/s10107-013-0737-x
[2] Rudin，L.I.，Osher，S.，Fatemi，E.：基于非线性总变差的噪声去除算法。物理学。D： 非线性现象。60(2), 259-268 (1992) ·Zbl 0780.49028号 ·doi:10.1016/0167-2789（92）90242-F
[3] Osher，S.，Burger，M.，Goldfarb，D.，Jinjun，X.，Yin，W.：基于全变量的图像恢复的迭代正则化方法。多尺度建模仿真。4(2), 460-489 (2005) ·1090.94003赞比亚比索 ·doi:10.1137/040605412
[4] Nemirovski，A.S.，Yudin，D.：优化中的问题复杂性和方法效率。Wiley-Interscience离散数学系列。约翰·威利，十五世（1983年）·Zbl 0501.90062号
[5] Nesterov，Y.E.：非光滑函数的平滑最小化。数学。程序。103, 127-152 (2005) ·Zbl 1079.90102号 ·doi:10.1007/s10107-004-0552-5
[6] Nesterov，Y.E.：收敛速度为（O（1/k^2）的无约束凸极小化问题的一种方法。多克。苏联。269, 543-547 (1983)
[7] Nesterov，Y.E.：凸优化入门讲座：基础课程。Kluwer学术出版社，马萨诸塞州（2004）·Zbl 1086.90045号 ·doi:10.1007/978-1-4419-8853-9
[8] Chen，Y.，Lan，G.，Ouyang，Y.：一类鞍点问题的最优原对偶方法。SIAM J.Optim公司。24(4), 1779-1814 (2014) ·Zbl 1329.90090号 ·doi:10.1137/130919362
[9] He，Y.，Monteiro，R.D.C.：一类复合凹凸鞍点问题的加速hpe型算法。SIAM J.Optim公司。26(1), 29-56 (2016) ·Zbl 1329.90179号 ·数字对象标识码：10.1137/14096757X
[10] Hong，M.，Luo，Z.Q.：关于交替方向乘数法的线性收敛性。数学。程序。162, 1-35 (2012)
[11] 邓伟，尹伟：关于乘数的广义交替方向法的全局收敛性和线性收敛性。科学杂志。计算。66(3), 889-916 (2016) ·Zbl 1379.65036号 ·doi:10.1007/s10915-015-0048-x
[12] Goldfarb，D.，Ma，S.，Scheinberg，K.：最小化两个凸函数之和的快速交替线性化方法。数学。程序。141(1-2), 349-382 (2013) ·兹比尔1280.65051 ·doi:10.1007/s10107-012-0530-2
[13] Monteiro，R.D.C.，Svaiter，B.F.：块分解算法的迭代复杂性和乘法器的交替方向方法。SIAM J.Optim公司。23(1), 475-507 (2013) ·Zbl 1267.90181号 ·数字对象标识代码：10.1137/10849468
[14] Goldstein，T.、O'Donoghue，B.、Setzer，S.、Baraniuk，R.：快速交替方向优化方法。SIAM J.成像科学。7(3), 1588-1623 (2014) ·兹比尔1314.49019 ·doi:10.1137/120896219
[15] Ouyang，Y.，Chen，Y.、Lan，G.、Pasiliao Jr.，E.：乘数的加速线性化交替方向方法。SIAM J.成像科学。8(1), 644-681 (2015) ·Zbl 1321.90105号 ·数字对象标识码：10.1137/14095697X
[16] Kelley，J.E.：求解凸规划的割平面方法。J.暹罗。8, 703-712 (1960) ·Zbl 0098.12104号
[17] Kiwiel，K.C.：非光滑凸极小化的聚合次梯度方法。数学。程序。27, 320-341 (1983) ·Zbl 0525.90074号 ·doi:10.1007/BF02591907
[18] Lemaréchal，C.：davidon方法对不可微问题的扩展。数学。程序。学习。3, 95-109 (1975) ·Zbl 0358.90051号 ·doi:10.1007/BFb0120700
[19] Kiwiel，K.C.：凸不可微优化、鞍点问题和变分不等式的近似水平丛方法。数学。程序。序列号。B.69，89-109（1995）·Zbl 0857.90101号
[20] Lemaréchal，C.，Nemirovski，A.S.，Nesterov，Y.E.：束方法的新变体。数学。程序。69, 111-148 (1995) ·Zbl 0857.90102号 ·doi:10.1007/BF01585555
[21] Kiwiel，K.C.：凸不可微最小化的束方法中的邻近控制。数学。程序。46, 105-122 (1990) ·Zbl 0697.90060号 ·doi:10.1007/BF01585731
[22] Ben-Tal，A.，Nemirovski，A.S.：用于大规模凸优化的非核素限制内存级方法。数学。程序。102407-456（2005年）·兹比尔1066.90079 ·doi:10.1007/s10107-004-0553-4
[23] van Ackooij，W.，Sagastizábal，C.：上不精确预言的约束束方法及其在联合机会约束能量问题中的应用。SIAM J.Optim公司。24(2), 733-765 (2014) ·Zbl 1297.49057号 ·数字对象标识代码：10.1137/120903099
[24] de Oliveira，W.，Sagastizábal，C.，Scheimberg，S.：两阶段随机规划的非精确束方法。SIAM J.Optim公司。21（2），517-544（2011）·Zbl 1226.90057号 ·doi:10.1137/100808289
[25] de Oliveira，W.，Sagastizábal，C.，Lemaréchal，C.：深度凸近端束方法：不精确预言的统一分析。数学。程序。148(1-2), 241-277 (2014) ·Zbl 1327.90321号 ·doi:10.1007/s10107-014-0809-6
[26] Richtárik，P.：非光滑凸极小化的近似水平方法。J.优化。理论应用。152(2), 334-350 (2012) ·Zbl 1237.90183号 ·doi:10.1007/s10957-011-9908-1
[27] Kiwiel，K.C.：具有近似次梯度线性化的近端束方法。SIAM J.优化。16(4), 1007-1023 (2006) ·Zbl 1104.65055号 ·数字对象标识代码：10.1137/040603929
[28] Kiwiel，Krzysztof C：部分不精确预言凸极小化的束方法。计算。最佳方案。申请。，可从网站SemanticScholar获得·Zbl 0697.90060号
[29] de Oliveira，W，Sagastizábal，C：按需准确度的神谕水平捆绑方法。最佳方案。方法软件。（提前打印）：29,1-30（2014年）·Zbl 1306.90121号
[30] Kiwiel，K.C.，Lemaréchal，C.：适合列生成的不精确束变体。数学。程序。118(1), 177-206 (2009) ·Zbl 1163.65039号 ·doi:10.1007/s10107-007-0187-4
[31] Brännlund，U.，Kiwiel，K.C.，Lindberg，P.O.：凸不可微优化的下降近水平束方法。运营Res.Lett。17(3), 121-126 (1995) ·Zbl 0843.9003号 ·doi:10.1016/0167-6377（94）00056-C
[32] Cruz，J.B.，de Oliveira，W.：凸优化的类水平丛算法。J.全球。最佳方案。59, 1-23 (2013)
[33] de Oliveira，W.，Sagastizábal，C.：二十一世纪的捆绑方法：鸟瞰图。佩斯奎。作品34（3），647-670（2014）·doi:10.1590/0101-7438.2014.034.03.0647
[34] Becker，S.、Bobin，J.、CandèS，E.J.：内斯塔：稀疏恢复的快速准确一阶方法。SIAM J.成像科学。4（1），1-39（2011）·Zbl 1209.90265号 ·数字对象标识代码：10.1137/090756855
[35] Astorino，A.，Frangioni，A.，Gaudioso，M.，Gorgone，E.：凸数值优化中的分段二次近似。SIAM J.Optim公司。21(4), 1418-1438 (2011) ·Zbl 1236.90092号 ·数字对象标识代码：10.1137/100817930
[36] Ouorou，A.：一种使用切比雪夫中心进行非光滑凸优化的近切平面方法。数学。程序。119(2), 239-271 (2009) ·Zbl 1173.90009号 ·doi:10.1007/s10107-008-0209-x
[37] 莫塞克。matlab手册的mosek优化工具箱。6.0版（93版）。网址：http://www.mosek.com
[38] Chen，Y.，Hager，W.，Huang，F.，Phan，D.，Ye，X.，Yin，W.：图像重建的快速算法及其在部分并行磁共振成像中的应用。SIAM J.成像科学。5(1), 90-118 (2012) ·Zbl 1247.90212号 ·doi:10.1137/100792688
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。