丹尼尔·雷姆;阿尔瓦罗·德·皮耶罗 一种新的收敛性分析和一些带有误差的加速近端前向后退算法的扰动弹性。 (英语) Zbl 1397.90363号 反向探测。 33,第4号,文章ID 044001,28 p.(2017). 摘要:科学和工程中的许多问题,作为其求解过程的一部分,都涉及到考虑一个可分离函数,该函数是两个凸函数之和,其中一个可能是非光滑的。最近,一些工作讨论了几种旨在解决这个最小化问题的加速近似方法的不精确版本。本文证明了Beck和Teboulle(快速迭代收缩侵入算法)方法的不精确版本在Hilbert空间设置下,在误差项衰减率的一些假设下保持相同(非渐近)的收敛速度。这里讨论的不精确性的概念似乎很简单,但有趣的是,当与相关工作进行比较时,误差项的密切相关衰减率产生了密切相关的收敛率。该推导揭示了各种加速方法中出现的一些参数的神秘起源。分析的结果是,加速方法具有扰动弹性,原则上适用于优势方法。考虑到这一点,我们重新审视了优势化方法,并大大扩展了其范围。 引用于8文件 MSC公司: 90立方 非线性规划 90立方厘米 抽象空间中的编程 关键词:FISTA公司;衰变速率;误差项;不精确;最小化问题;优势化;加速近端前向后退算法 软件:规范化工具;UTV公司;PDCO公司 PDF格式BibTeX公司 XML格式引用 \textit{D.Reem}和\textit{A.de Pierro},反问题。33,第4号,文章ID 044001,28 p.(2017;Zbl 1397.90363) 全文: 内政部 arXiv公司 参考文献: [1] Alber Y I,Burachik R S和Iusem A N 1997 Banach空间中非光滑凸优化问题的近点方法文章摘要。申请。分析。2 97–120 ·Zbl 0947.90091号 [2] Argyros I K和MagreñánÁA 2015关于Banach空间上不精确两点类牛顿方法的收敛性申请。数学。计算。265 893–902 ·Zbl 1410.65213号 [3] Auslender A和Teboulle M 2006凸优化和圆锥优化的内部梯度和近似方法SIAM J.Optim公司。16 697–725 ·Zbl 1113.90118号 [4] Bach F、Jenatton R、Mairal J和Obozinski G 2012使用稀疏诱导惩罚进行优化已找到。趋势马赫数。学习。4 1–106 ·Zbl 06064248号 [5] Bauschke H H和Borwein J M 1996关于求解凸可行性问题的投影算法SIAM版本。38 367–426·Zbl 0865.47039号 [6] Bauschke H H和Combettes P L 2011Hilbert空间中的凸分析和单调算子理论(纽约:施普林格) [7] Bauschke H H和Koch V R 2015投影方法:用于解决半空间可行性和最佳近似问题的瑞士军刀康斯坦普。数学。636 1–40 ·Zbl 1325.65080号 [8] Beck A和Teboulle M 2009约束全变分图像去噪和去模糊问题的快速梯度算法IEEE传输。图像处理。18 2419–34 ·Zbl 1371.94049号 [9] Beck A和Teboulle M 2009线性反问题的快速迭代收缩阈值算法暹罗J.成像科学。2 183–202 ·Zbl 1175.94009号 [10] Bello Cruz J Y和Nghia T T A 2015关于近端前向-后向分裂方法与线性搜索的收敛性arXiv:1501.02501[math.OC]([v3];上次更新:9月17日) [11] Burachik R S和Svaiter B F 2001广义近点方法族的相对误差容限数学。操作。物件。26 816–31 ·Zbl 1082.65539号 [12] Burke J V和Qian M 1999单调算子的可变度量最近点算法SIAM J.控制优化。37 353–75 ·Zbl 0918.90112号 [13] Butnariu D,Davidi R,Herman G T和Kazantsev I G 2007凸可行性和优化问题的一类投影方法在可和扰动下的稳定收敛性IEEE J.选择。顶部。信号处理信号处理。1 540–7 [14] Butnariu D,Reich S和Zaslavski A J 2006 Banach空间中Bregman单调算子和非扩张算子到非精确轨道不动点的收敛性不动点理论及其应用埃德·费特·纳坦斯基等第11-33页·Zbl 1116.47052号 [15] 拜恩C L 2014反问题中的迭代优化(数学专著和研究笔记)(佛罗里达州博卡拉顿:CRC出版社) [16] Cai J-F、Candès E J和Shen Z 2010矩阵补全的奇异值阈值算法SIAM J.Optim公司。20 1956–82 ·兹比尔1201.90155 [17] Candés E J、Wakin M B和Boyd s P 2008通过加权1最小化增强稀疏性J.傅里叶分析。申请。14 877–905 ·Zbl 1176.94014号 [18] Censor Y 2015算法的优化和抗干扰能力:不断更新的参考书目http://math.haifa.ac.il/yair/bib-superiorization-censor.html,网站上次更新时间:2015年12月17日,arXiv版本:arXiv:1506.04219 [19] 审查员Y 2015弱优势和强优势:在可行性搜索和最小化之间Analele Stint公司。奥维迪乌斯·康斯坦塔大学。数学。23 41–54 [20] Censor Y、Davidi R和Herman G T 2010扰动弹性和迭代算法的优越性反问题26 065008 ·Zbl 1193.65019号 [21] Censor Y、Davidi R、Herman G T、Schulte R W和Terumeshvili L 2014预测次梯度最小化与优化J.优化。理论应用。160 730–47 ·Zbl 1298.90104号 [22] Censor Y和Reem D 2015可行性搜索方法的零凸函数、扰动弹性和次梯度投影数学。程序。A类(A 152 339–80号·兹比尔1327.90229 [23] Censor Y和Zaslavski A J 2015通过优化可行搜索投影方法实现严格Fejér单调性J.优化。理论应用。165 172–87 ·Zbl 1322.90063号 [24] Chen S、Donoho D和Saunders M 1998基于基追踪的原子分解SIAM J.科学。计算。20 33–61 [25] 组合P L 2004通过非扩张平均算子的组合求解单调包含优化53 475–504·Zbl 1153.47305号 [26] 组合仪表P L和Wajs V R 2005通过近端正向-反向分裂恢复信号多尺度模型。模拟。4 1168–200 [27] Cominetti R 1997将近点算法与近似方法耦合J.优化。理论应用。95 581–600 ·Zbl 0902.90129号 [28] Davidi R 2010优化算法及其在图像重建中的应用博士论文美国纽约城市大学 [29] Davidi R、Censor Y、Schulte R W、Geneser S和Xing L 2015适用于放射治疗逆向治疗规划的可行性搜索和优化算法康斯坦普。数学。636 83–92 ·兹比尔1326.65067 [30] Davidi R和Herman G T 2009和Y.Censor,抗扰块迭代投影方法及其在投影图像重建中的应用国际事务处理。操作。物件。16 505–24 ·Zbl 1191.94013号 [31] De Pierro A R和Iusem A N 1988凸可行性问题的有限收敛行操作方法申请。数学。最佳方案。17 225–35 ·Zbl 0655.65085号 [32] Dembo R S、Eisenstat S C和Steihaug T 1982非精确牛顿方法SIAM J.数字。分析。19 400–8 ·Zbl 0478.65030号 [33] Devolder O、Glineur F和Nesterov Y 2014带不精确预言的光滑凸优化的一阶方法数学。程序。A 146 37–75·Zbl 1317.90196号 [34] Eckstein J 1998基于Bregman函数的近似算法中的近似迭代数学。程序。83 113–23 ·Zbl 0920.90117号 [35] Engl H W、Hanke M和Neubauer A,1996年反问题的正则化(数学及其应用第375卷)(多德雷赫特语:Kluwer) [36] Friedlander M P和Schmidt M 2012数据拟合的混合确定性随机方法SIAM J.科学。计算。34 A1380–405 [37] Friedlander M P和Schmidt M 2013SIAM J.科学。计算。35 B950–1个 [38] Gárciga Otero R和Iusem A 2013特定类别操作员的定点方法J.优化。理论应用。159 656–72 [39] Garduño E和Herman G T 2014 ML–EM算法的高级化IEEE传输。编号。科学。61 162–72 [40] Goldfarb D、Ma S和Scheinberg K 2013最小化两个凸函数之和的快速交替线性化方法数学。程序。A 141 349–82号·Zbl 1280.65051号 [41] Gonzaga C C和Karas E W 2013可微凸规划的微调Nesterov最速下降算法数学。程序。A 138 141–66号·Zbl 1297.90118号 [42] Güler O 1992凸极小化的新近似点算法SIAM J.Optim公司。2 649–64 [43] Hansen P C 1998线性反演的数值方面秩亏和离散不适定问题(SIAM数学建模与计算专著)(宾夕法尼亚州费城:SIAM)MR1486577(99a:65037) [44] He B和Yuan X 2012凸极小化的加速非精确近点算法J.优化。理论应用。154 536–48 ·Zbl 1256.90033号 [45] Herman G T 2014组合图像分析图像分析的优化(计算机科学课程讲稿第8466卷)(柏林:施普林格出版社)第1-7页 [46] Herman G T和Davidi R 2008利用少量投影重建图像反问题24 045011 ·Zbl 1161.68825号 [47] Herman G T、Garduño E、Davidi R和Censor Y 2012 Superiorization:医学物理的优化启发式医学物理。39 5532–46 [48] Humes C Jr.和Silva P J S 2005优化中的不精确近点算法和下降方法最佳方案。工程师。6 257–71 [49] Iusem A N和Gárciga-Oro R 2001 Banach空间中近似点和增广拉格朗日算法的不精确版本数字。功能。分析。最佳方案。22 609–40 ·兹比尔1018.90067 [50] Iusem A N、Pennanen T和Svaiter B F 2003近点算法的不精确变体没有单调性SIAM J.Optim公司。13 1080–97 ·Zbl 1053.90134号 [51] Jiang K,Sun D和Toh K 2012大规模线性约束凸SDP的非精确加速近似梯度法SIAM J.Optim公司。22 1042–64 ·Zbl 1401.90120号 [52] Jin W,Censor Y和Jiang M 2013生物发光的启发式优势化方法国际联邦医学杂志。工程(IFMBE)程序。39 1026–9 [53] Jin W,Censor Y和Jiang M 2016投影比例梯度法的有界扰动弹性计算。最佳方案。申请。63 365–92 ·Zbl 1339.90262号 [54] Kang M、Kang M和Jung M 2015非精确加速增广拉格朗日方法计算。最佳方案。申请。62 373–404 ·Zbl 1353.90145号 [55] Kaplan A和Tichatschke R 2004关于具有弱容错标准的不精确广义近似方法优化53 3–17·Zbl 1068.65064号 [56] Lan G,Lu Z和Monteiro R D C 2011锥规划O(1/)迭代复杂性的一阶原对偶方法数学。程序。A 126 1–29 MR2764338(2012e:90113)·Zbl 1208.90113号 [57] Langthaler O 2014将优越的方法纳入生物医学成像软件(76页),http://marshallplan.at/images/papers_schoolrship/2014/Salzburg_University_of_Applied_Sciences_LangthalerOliver_2014.pdf [58] Levitan E和Herman G T 1987发射层析成像中图像重建的最大后验概率期望最大化算法IEEE传输。医学影像学6 185–92 [59] Li J,Wu Z,Wu C,Long Q和Wang X 2016线性耦合约束可分离凸优化的非精确对偶快速梯度投影方法J.优化。理论应用。168 153–71 ·Zbl 1332.90199号 [60] Liu Z和Vandenberghe L 2009核范数逼近的内点方法及其在系统辨识中的应用SIAM J.矩阵分析。申请。31 1235–56 ·Zbl 1201.90151号 [61] Ma S,Goldfarb D和Chen L 2011矩阵秩最小化的不动点和Bregman迭代方法数学。程序。A 128 321-53号·Zbl 1221.65146号 [62] Monteiro R D C和Svaiter B F 2012单调变分不等式和包含问题的牛顿近似外梯度方法的迭代复杂性SIAM J.Optim公司。22 914–35 ·Zbl 1270.90110号 [63] Monteiro R D C和Svaiter B F 2013凸优化的加速混合近端外梯度方法及其对二阶方法的影响SIAM J.Optim公司。23 1092–125 ·Zbl 1298.90071号 [64] Narkiss G和Zibulevsky M 2005大规模无约束优化的序贯子空间优化方法技术报告第559页, [65] Nemirovskiy A S 1982光滑凸极小化的单位向量法伊兹夫。阿卡德。Nauk SSSR Tekh公司。基伯。2 18–29 [66] 内米洛夫斯基A S和尤丁D B 1983优化中的问题复杂性和方法效率(纽约:威利出版社)翻译自俄文版(1979年),由E.R.道森(E.R.Dawson)作序,《威利——离散数学的交互科学系列》(Wiley-Interscience Series in Discrete Mathematics)。MR702836型 [67] Nesterov Y 1983求解收敛速度为O(1/k 2)的凸规划问题的一种方法多克。阿卡德。诺克SSSR269 543–7 [68] Nesterov Y 2004年凸优化入门讲座:基础课程(应用优化第87卷)(波士顿:Kluwer) [69] Nesterov Y 2005非光滑函数的平滑最小化数学。程序。A 103 127–52号·Zbl 1079.90102号 [70] 雀巢Y 2007最小化复合目标函数的梯度方法预印本(核心讨论文件)2007/76,http://bit.ly/1fhRHVM网站 [71] Parente L A、Lotito P A和Solodov M V 2008一类不精确的可变度量近点算法SIAM J.Optim公司。19 240–60 ·Zbl 1190.90216号 [72] Penfold S N、Schulte R W、Censor Y和Rosenfeld A B 2010质子计算机断层扫描图像重建中的总变差优化方案医学物理。37 5887–95 [73] Prommeger B 2014生物医学成像中使用的高级算法的验证和评估:10月84日投影图像重建中有无高级迭代算法的比较http://marshallplan.at/images/papers_schoolrship/2014/Salzburg_University_of_Applied_Sciences_PrommeggerBernhard_2014.pdf [74] Pustylnik E,Reich S和Zaslavski A J 2009非扩张映射的不精确无穷乘积数字函数。分析。最佳方案。30 632–45 ·Zbl 1175.47048号 [75] Reich S和Sabach S 2009自反Banach空间中近似型算法的强收敛定理J.非线性凸分析。10 471–85 ·Zbl 1180.47046号 [76] Reich S和Sabach S 2010自反Banach空间中近似方法的两个强收敛定理数字。功能。分析。最佳方案。31 22–44 ·Zbl 1200.47085号 [77] Reich S和Sabach S 2010自反Banach空间中Bregman强非扩张算子的两个强收敛定理非线性分析。122–35 ·Zbl 1226.47089号 [78] Reich S和Sabach S 2012关于自反Banach空间中求解平衡问题的迭代方法的三个强收敛定理最优化理论及相关课题(当代数学第568卷)(普罗维登斯,RI:美国数学学会)第225-40页·Zbl 1293.47065号 [79] Reich S和Zaslavski A J 2014度量空间中非扩张映射的不精确无穷乘积的渐近行为Z.分析。安文德。33 101–17 ·Zbl 1307.47060号 [80] Rockafellar R T 1976单调算子和近点算法SIAM J.控制优化。14 877–98 ·Zbl 0358.90053号 [81] Salzo S和Villa S 2012不精确和加速的近点算法J.凸面分析。19 1167–92 ·Zbl 1283.90030号 [82] Santos S A和Silva R C M 2014光滑无约束最小化的非精确非单调近似方法J.计算。申请。数学。269 86–100 ·Zbl 1293.49072号 [83] Schmidt M,Le Roux N和Bach F 2011凸优化的不精确近端梯度方法的收敛速度arXiv:1109.2415[cs.LG],([v2]Thu,2011年12月1日)。高级神经信息处理中的扩展摘要。系统。24 [84] Solodov M V和Svaiter B F 1999使用最大单调算子扩大的混合近似外梯度-最大点算法设定值分析。7 323–45 ·Zbl 0959.90038号 [85] Solodov M V和Svaiter B F 1999混合投影-近点算法J.凸面分析。6 59–70 ·Zbl 0961.90128号 [86] Solodov M V和Svaiter B F 2000一种不精确混合广义近点算法和Bregman函数理论中的一些新结果数学。操作。物件。51 214–30 ·Zbl 0980.90097号 [87] Solodov M V和Svaiter B F 2001一些不精确近点算法的统一框架数字。功能。分析。最佳方案。22 1013–35 ·Zbl 1052.49013号 [88] Tibshirani R 1996通过套索回归收缩和选择J.R.统计社会。B 58 267–88岁·Zbl 0850.62538号 [89] Tran-Dini Q、Necoara I和Diehl M 2016大规模可分离凸优化的快速非精确分解算法优化65 325–56 [90] Tseng P 2008关于凸凹优化预印本的加速近端梯度方法,请访问网址:http://csie.ntu.edu.tw/b97058/tseng/papers/apeb.pdf [91] Tseng P 2010结构化凸优化的近似精度、梯度方法和误差界数学。程序。乙125 263–95·Zbl 1207.65084号 [92] van Tiel J 1984年凸分析:导论(奇切斯特:威利)·Zbl 0565.49001号 [93] Villa S、Salzo S、Baldassarre L和Verri A 2013加速和不精确正向-反向算法SIAM J.Optim公司。23 1607–33 ·Zbl 1295.90049号 [94] Xia F Q和Huang N J 2011求解广义混合变分不等式的不精确混合投影近点算法计算。数学。申请。62 4596–604·Zbl 1236.49023号 [95] Yudin D B和Nemirovskiy A S 1977严格凸规划的信息复杂性科诺姆。i材料公制13 550–9 [96] Zaslavski A J 2010存在计算错误时近似算法的收敛性台湾J.数学。14 2307–28 ·Zbl 1237.49043号 [97] Zaslavski A J 2010 Hilbert空间中存在计算误差的近点方法的收敛性SIAM J.Optim公司。20 2413–21 ·Zbl 1208.49042号 [98] Zaslavski A J 2011存在计算错误的最大单调算子和近点算法J.优化。理论应用。150 20–32 ·Zbl 1276.90071号 [99] Zaslavski A J 2013次梯度投影算法和凸可行性问题的近似解J.优化。理论应用。157 803–19 ·Zbl 1292.90288号 [100] 存在计算误差的凸可行性问题的Zaslavski A J 2013次梯度投影算法J.近似理论175 19–42 ·Zbl 1303.90124号 [101] Zaslavski A J 2014非自治离散时间最优控制系统近似解收费现象的稳定性非线性分析。100 1–22 ·Zbl 1284.49018号 [102] 信号和图像处理中的Zibulevsky M和Elad M 2010 L1-L2优化IEEE信号处理。美格。27 76–88 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。