×

带Armijo线搜索的改进非线性共轭梯度法及其应用。 (英语) Zbl 1459.90225号

摘要:本文提出了一种改进的Polak-Ribière-Polyak(PRP)共轭梯度法用于图像恢复。该方法无需任何线搜索条件即可生成足够的下降方向。在一些温和的条件下,该方法与Armijo线搜索是全局收敛的。此外,还建立了修正PRP方法的线性收敛速度。无约束优化、图像恢复和压缩感知的实验结果表明,该方法具有良好的应用前景,与其他共轭梯度方法相比具有竞争力。

MSC公司:

90元53 拟Newton型方法
90C26型 非凸规划,全局优化
94A08型 信息与通信理论中的图像处理(压缩、重建等)
65千5 数值数学规划方法
90摄氏52度 减少梯度类型的方法
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Dai,Y.H.,无约束优化的非单调共轭梯度算法,系统科学与复杂性杂志,15,2,139-145(2002)·Zbl 1019.90039号
[2] Nocedal,J。;袁永新,自标度拟牛顿法的分析,数学规划,61,1-3,19-37(1993)·兹比尔0794.90067 ·doi:10.1007/bf01582136
[3] 魏,Z。;李·G。;Qi,L.,大型无约束优化问题的新非线性共轭梯度公式,应用数学与计算,179,2407-430(2006)·Zbl 1106.65055号 ·doi:10.1016/j.amc.2005.11.10
[4] 魏,Z。;姚,S。;Liu,L.,一些新共轭梯度法的收敛性,应用数学与计算,183,2,1341-1350(2006)·Zbl 1116.65073号 ·doi:10.1016/j.amc.2006.05.150
[5] Polak,E。;Ribiere,G.,Note sur la convergence de méthodes de directional concugue es,ESAIM:数学建模与数值分析——数学建模与分析数,3,16,35-43(1969)·兹标0174.48001 ·doi:10.1051/m2/196903r100351
[6] Polyak,B.T.,极值问题中的共轭梯度法,苏联计算数学和数学物理,9,4,94-112(1969)·Zbl 0229.49023号 ·doi:10.1016/0041-5553(69)90035-4
[7] Hestenes,M.R。;Stiefel,E.,求解线性系统的共轭梯度方法,国家标准局研究杂志,49,6,409-436(1952)·Zbl 0048.09901号 ·doi:10.6028/jres.049.044
[8] 刘,Y。;Storey,C.,高效广义共轭梯度算法,第1部分:理论,优化理论与应用杂志,69,1,129-137(1991)·Zbl 0702.90077号 ·doi:10.1007/bf00940464
[9] Dai,Y.H。;Yuan,Y.,一种具有强全局收敛性的非线性共轭梯度法,SIAM优化杂志,10,1,177-182(1999)·兹比尔0957.65061 ·doi:10.1137/s1052623497318992
[10] 弗莱彻,R。;Reeves,C.M.,《共轭梯度函数最小化》,《计算机杂志》,7,2,149-154(1964)·Zbl 0132.11701号 ·doi:10.1093/comjnl/7.2.149
[11] Fletcher,R.,《实用优化方法,无约束优化》,第1卷(1980),美国新泽西州霍博肯:美国新泽西霍博肯John Wiley&Sons·Zbl 0439.93001号
[12] Cheng,W.Y.,基于prp的二项下降法,数值泛函分析与优化,28,11-12,1217-1230(2007)·Zbl 1138.90028号 ·网址:10.1080/01630560701749524
[13] 戴,Z.-f。;Tian,B.-S.,一些改进的prp非线性共轭梯度方法的全局收敛性,Optimization Letters,5,4615-630(2011)·Zbl 1228.90153号 ·doi:10.1007/s11590-010-0224-8
[14] 吉尔伯特,J.C。;Nocedal,J.,共轭梯度优化方法的全局收敛性,SIAM优化杂志,2,1,21-42(1992)·Zbl 0767.90082号 ·doi:10.1137/0802003年
[15] Yu,G。;Zhao,Y。;Wei,Z.,用于大规模无约束优化的下降非线性共轭梯度法,应用数学与计算,187,2636-643(2007)·Zbl 1117.65097号 ·doi:10.1016/j.amc.2006.08.087
[16] 戴,Z。;Dong,X。;Kang,J。;Hong,L.,《预测股市收益:新技术指标和两步经济约束法》,《北美经济与金融杂志》,53(2020)·doi:10.1016/j.najef.2020.1016
[17] 戴振芳。;Zhu,H.,大型非线性单调方程的修正hestenes-stiefel型无导数方法,数学,8,2,168(2020)·doi:10.3390/路径8020168
[18] 文,F。;Yang,X.,收益分布的偏态与风险溢价系数,《系统科学与复杂性杂志》,22,3,360-371(2009)·doi:10.1007/s11424-009-9170-x
[19] Yu,G。;黄,J。;周瑜,一种用于脉冲噪声去除的下降谱共轭梯度法,《应用数学快报》,23,5,555-560(2010)·Zbl 1186.94017号 ·doi:10.1016/j.aml.2010.01.010
[20] 袁,G。;李·T。;Hu,W.,大型非线性方程组和图像恢复问题的共轭梯度算法,应用数值数学,147129-141(2020)·Zbl 1433.90165号 ·doi:10.1016/j.apnum.2019.08.022
[21] 袁,G.L。;卢建勇。;Wang,Z.,带改进wwp线搜索的prp共轭梯度算法及其在图像恢复问题中的应用,应用数值数学,152,1-11(2020)·Zbl 07173158号 ·doi:10.1016/j.apnum.2020.01.019
[22] 袁,G。;魏,Z。;Li,G.,非光滑凸程序的改进Polak-Ribière-Polyak共轭梯度算法,计算与应用数学杂志,255,86-96(2014)·Zbl 1291.90315号 ·doi:10.1016/j.cam.2013.04.032
[23] 袁,G。;魏,Z。;Yang,Y.,非凸函数不精确线搜索下Polak-Ribière-Polyak共轭梯度算法的全局收敛性,计算与应用数学杂志,362,262-275(2019)·Zbl 1418.90205号 ·doi:10.1016/j.cam.2018.10.057
[24] Powell,M.J.D.,非凸最小化计算和共轭梯度法,数值分析,122-141(1984),德国柏林:施普林格,德国柏林·Zbl 0531.65035号
[25] Dai,Y.H.,共轭梯度法分析(1997),中国北京:中国科学院计算数学与科学/工程计算研究所,中国北京,博士。论文
[26] Al Baali,M.,具有不精确线搜索的fletcher-reeves方法的下降性质和全局收敛性,IMA数值分析杂志,5,121-124(1985)·Zbl 0578.65063号 ·doi:10.1093/imanum/5.1.121
[27] 胡玉凤。;Storey,C.,共轭梯度法的全局收敛结果,优化理论与应用杂志,71,2,399-405(1991)·Zbl 0794.90063号 ·doi:10.1007/bf00939927
[28] 杜亚提·阿赫迈德(Touati-Ahmed,D.)。;Storey,C.,高效混合共轭梯度技术,优化理论与应用杂志,64,2,379-397(1990)·Zbl 0666.90063号 ·doi:10.1007/bf00939455
[29] 海格,W.W。;Zhang,H.,一种新的保下降共轭梯度法和有效的线搜索,SIAM优化杂志,16,1,170-192(2005)·邮编1093.90085 ·doi:10.1137/030601880
[30] Yu,G.H。;Guan,L.T.,用于大规模优化的新型下降非线性共轭梯度方法,科学计算与计算机系(2005)
[31] Yu,G。;关,L。;Chen,W.,大规模无约束优化的具有充分下降性的谱共轭梯度法,优化方法与软件,23,2,275-293(2008)·Zbl 1279.90166号 ·doi:10.1080/10556780701661344
[32] 戴,Z。;Wen,F.,带armijo线搜索的修正hestenes-stiefel非线性共轭梯度法的全局收敛性,数值算法,59,1,79-93(2012)·Zbl 1238.65052号 ·doi:10.1007/s11075-011-9477-2
[33] 李,M。;Qu,A.,一些充分下降共轭梯度法及其全局收敛性,计算与应用数学,33,2,333-347(2014)·Zbl 1307.90171号 ·doi:10.1007/s40314-013-0064-0
[34] 张,L。;周,W。;Li,D.,无约束优化问题带armijo线搜索的dy共轭梯度法的全局收敛性,优化方法和软件,22,3,511-517(2007)·Zbl 1133.65035号 ·doi:10.1080/10556780600795748
[35] Zoutendijk,G.,《非线性规划,计算方法,整数和非线性规划》,37-86(1970)·Zbl 0336.90057号
[36] 邦加兹,I。;A.R.康涅狄格州。;古尔德,N。;Toint,P.L.,Cute:约束和非约束测试环境,ACM数学软件汇刊,21,1123-160(1995)·Zbl 0886.65058号 ·doi:10.1145/200979.201043
[37] 莫雷,J.J。;Garbow,B.S。;Hillstrom,K.E.,测试无约束优化软件,ACM数学软件交易(TOMS),7,1,17-41(1981)·Zbl 0454.65049号 ·数字对象标识代码:10.1145/355934.355936
[38] 戴奇。;Sha,W.,《压缩传感物理和基于梯度的恢复算法》(2009),https://arxiv.org/abs/0906.1487
[39] 海格,W.W。;张海川,非线性共轭梯度法综述,太平洋优化杂志,2,1,35-58(2006)·Zbl 1117.90048号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。