×

一种共轭梯度算法及其在大规模优化问题和图像恢复中的应用。 (英语) Zbl 1499.90131号

摘要:为了解决大规模无约束优化问题,提出了一种改进的PRP共轭梯度算法,该算法将最速下降算法与共轭梯度法相结合,并成功地利用了它们的优良特性,因此很有意思。对于平滑函数,目标算法充分利用梯度函数和前一个方向的信息来确定下一个搜索方向。对于非光滑函数,在该算法中引入了Moreau-Yosida正则化,简化了处理复杂问题的过程。该算法具有以下特点:(i)充分下降特征和信赖域特征;(ii)实现全球趋同的能力;(iii)大规模光滑/非光滑函数的数值结果证明,与其他类似的优化方法相比,该算法具有优异的性能;(iv)进行了图像恢复问题,结果表明所给算法是成功的。

MSC公司:

90C06型 数学规划中的大尺度问题
90C26型 非凸规划,全局优化
90立方 非线性规划
65千5 数值数学规划方法
65K10像素 数值优化和变分技术

软件:

LDGB公司
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Al-Baali,A.,Albali,M.:具有不精确线搜索的Fletcher-Reeves方法的下降性质和全局收敛性。IMA J.数字。分析。5(1), 121-124 (1985) ·Zbl 0578.65063号
[2] Al-Baali,M.,Narushima,Y.,Yabe,H.:无约束优化的一类具有充分下降性的三项共轭梯度法。计算。优化。申请。60(1), 89-110 (2015) ·Zbl 1315.90051号
[3] Andrei,N.:一个无约束优化测试函数集合。环境。科学。Technol公司。10(1), 6552-6558 (2008)
[4] Andrei,N.:关于无约束优化的三项共轭梯度算法。申请。数学。计算。241(11), 19-29 (2008) ·Zbl 1258.65056号
[5] Argyros,I.K.,George,S.:解方程的Jarrat型格式的局部收敛性分析。申请。设定值分析。优化。1, 53-62 (2019)
[6] Banham,M.R.,Katsaggelos,A.K.:数字图像恢复。IEEE信号处理。Mag.14,24-41(1997)
[7] Cai,J.F.,Chan,R.H.,Fiore,C.D.:脉冲噪声去除的细节保留正则函数最小化。数学杂志。成像视觉。29, 79-91 (2007) ·Zbl 1523.94006号
[8] 蔡建芳(Cai,J.F.)。;Chan,R.H。;Morini,B.,通过共轭梯度类型方法最小化保边正则化泛函,CMA,奥斯陆,2005年8月8日至12日,柏林
[9] Cardenas,S.:高效广义共轭梯度算法。一、理论。J.优化。理论应用。69(1),129-137(1991)·Zbl 0702.90077号
[10] Chan,C.L.,Katsaggelos,A.K.,Sahakian,A.V.:量化噪声中的图像序列滤波及其在低剂量透视中的应用。IEEE传输。医学成像12,610-621(1993)
[11] Dai,Z.:一种混合HS-DY共轭梯度法。数学。数字。罪。(2005年)
[12] Dai,Z.,Wen,F.:稀疏稳定投资组合优化问题的广义方法。J.工业管理。优化。14, 1651-1666 (2018)
[13] Dai,Z.F.:无约束优化问题的两种改进的HS型共轭梯度法。非线性分析。,理论方法应用。74(3), 927-936 (2011) ·Zbl 1203.49049号
[14] Deng,S.,Wan,Z.:大型无约束优化问题的三项共轭梯度算法。申请。数字。数学。92, 70-81 (2015) ·Zbl 1321.65096号
[15] Dolan,E.D.,Moré,J.J.:用性能曲线对优化软件进行基准测试。数学。程序。91(2), 201-213 (2001) ·邮编:1049.90004
[16] Du,X.,Liu,J.:谱HS共轭梯度法的全局收敛性。程序。工程15(4),1487-1492(2011)
[17] Gilbert,J.C.,Nocedal,J.:优化共轭梯度法的全局收敛性。SIAM J.优化。2(1), 21-42 (1990) ·Zbl 0767.90082号
[18] Haarala,M.,Miettinen,K.,Mäkelä,M.M.:用于大规模非光滑优化的新的有限内存束方法。优化。方法软件。19(6), 673-692 (2004) ·兹比尔1068.90101
[19] Haarala,N.,Miettinen,K.,Mäkelä,M.M.:大规模非光滑优化的全局收敛有限内存束方法。数学。程序。109(1), 181-205 (2007) ·Zbl 1278.90451号
[20] Lin,C.J.,Weng,R.C.,Keerthi,S.S.:逻辑回归的信赖域牛顿法。J.马赫。学习。第9(2)号决议,627-650(2008)·Zbl 1225.68195号
[21] Meng,F.,Zhao,G.:关于约束非光滑凸规划的Moreau-Yosida正则化的二阶性质。数字。功能。分析。优化。25(5-6), 515-529 (2004) ·Zbl 1071.90030号
[22] Narushima,Y.,Yabe,H.,Ford,J.A.:无约束优化的具有充分下降性的三项共轭梯度法。SIAM J.Optim公司。21(1), 212-230 (2016) ·Zbl 1250.90087号
[23] Nazareth,L.:无需线搜索的共轭方向算法。J.优化。理论应用。23(3), 373-387 (1977) ·Zbl 0348.65061号
[24] Oustry,F.:最小化最大特征值函数的二阶束方法。数学。程序。89(1), 1-33 (2000) ·Zbl 1033.90080号
[25] Pearson,J.W.,Martin,S.,Wathen,A.J.:具有Moreau-Yosida惩罚函数的状态约束最优控制问题的前提条件。数字。线性代数应用。21(1), 81-97 (2013) ·兹比尔1324.49026
[26] Polak,E.:极值问题中的共轭梯度法。计算。数学。数学。物理学。9, 94-112 (1969) ·Zbl 0229.49023号
[27] Polak,E.,Ribière,G.:注意方向的收敛性。Rev.Fr.通知。里奇。作品。3, 35-43 (1969) ·兹标0174.48001
[28] Schramm,H.,Zowe,J.:最小化非光滑函数的束方法的一个版本:概念思想,收敛分析,数值结果。SIAM J.Optim公司。2(1), 121-152 (2006) ·Zbl 0761.90090号
[29] Sheng,Z.,Yuan,G.:一种有效的非光滑最小化自适应信赖域算法。计算。优化。申请。71, 251-271 (2018) ·Zbl 1406.90099号
[30] Sheng,Z.,Yuan,G.等人:用于大范围非光滑最小二乘问题的自适应信赖域算法。J.工业管理。优化。14, 707-718 (2018) ·兹比尔1412.90125
[31] Sheng,Z.,Yuan,G.,Cui,Z.:用于优化问题的一种新的自适应信赖域算法。数学学报。科学。38(2), 479-496 (2018) ·Zbl 1399.65135号
[32] Slump,C.H.,诊断X射线成像中的实时图像恢复,对量子噪声的影响,693-696(1992)
[33] 孙强,刘强:修正HS共轭梯度法的全局收敛性。J.应用。数学。计算。22(3), 289-297 (2009) ·Zbl 1148.90016号
[34] Touati Ahmed,D.,Storey,C.:高效混合共轭梯度技术。J.优化。理论应用。64(2), 379-397 (1990) ·Zbl 0666.90063号
[35] Wan,Z.,Yang,Z.L.Wang,Y.L.:无约束优化的新谱PRP共轭梯度法。申请。数学。莱特。24(1), 16-22 (2011) ·Zbl 1208.49039号
[36] Wang,W.,Qiao,X.,Han,Y.:非光滑和非凸约束优化的近似束方法。计算。统计数据分析。34(34), 3464-3485 (2011) ·Zbl 1265.90295号
[37] Wei,Z.,Li,G.,Qi,L.:无约束优化问题的新拟Newton方法。申请。数学。计算。175(2), 1156-1188 (2006) ·Zbl 1100.65054号
[38] Wei,Z.,Yao,S.,Liu,L.:一些新共轭梯度方法的收敛性。申请。数学。计算。183(2), 1341-1350 (2006) ·Zbl 1116.65073号
[39] Wei,Z.,Yu,G.,Yuan,G.等:无约束优化的修正BFGS型方法的超线性收敛性。计算。优化。申请。29(3), 315-332 (2004) ·Zbl 1070.90089
[40] Ying,L.,Hai,Z.,Fei,L.:一类非光滑凸优化问题的改进近端梯度方法。《运营杂志》。Res.Soc.中国5,391-403(2017)·Zbl 1394.90461号
[41] Yuan,G.,Hu,W.,Wang,B.:一种改进的Armijo线搜索技术,用于大规模非凸光滑和凸非光滑优化问题。预印本(2017)
[42] Yuan,G.,Li,Y.,Li和Y.:用于大规模非光滑最小化和非线性方程的改进Hestenes和Stiefel共轭梯度算法。J.优化。理论应用。168(1), 129-152 (2016) ·兹比尔1332.65081
[43] Yuan,G.,Lu,X.:一种改进的PRP共轭梯度法。安·Oper。第166(1)号决议,第73-90号决议(2009年)·Zbl 1163.90798号
[44] Yuan,G.,Lu,X.,Wei,Z.:无约束优化的具有下降方向的共轭梯度法。J.计算。申请。数学。233(2), 519-530 (2009) ·Zbl 1179.65075号
[45] Yuan,G.,Sheng,Z.,Wang,P.,Hu,W.,Li,C.:非凸函数修正BFGS方法的全局收敛性。J.计算。申请。数学。327, 274-294 (2018) ·兹比尔1370.90203
[46] Yuan,G.,Wei,Z.:关于凸极小化的修正BFGS方法的收敛性分析。计算。优化。申请。47(2), 237-255 (2010) ·Zbl 1228.90077号
[47] Yuan,G.,Wei,Z.,Li,G.:非光滑凸规划的改进Polak-Ribière-Polyak共轭梯度算法。J.计算。申请。数学。255, 86-96 (2014) ·Zbl 1291.90315号
[48] Yuan,G.,Wei,Z.,Lu,X.:改进的弱Wolfe-Powell线搜索下BFGS和PRP方法的全局收敛性。申请。数学。模型。47811-825(2017)·Zbl 1446.65031号
[49] Yuan,G.,Zhang,M.:大型非线性方程的三项Polak-Ribière-Polyak共轭梯度算法。J.计算。申请。数学。286, 186-195 (2015) ·Zbl 1316.90038号
[50] Zaslavski,A.J.:具有凸目标函数的连续下降法的三个收敛结果。J.应用。数字。优化。1, 53-61 (2019)
[51] Zhang,L.,Zhou,W.,Li,D.H.:一种下降修正的Polak-Ribière-Polyak共轭梯度法及其全局收敛性。IMA J.数字。分析。26(4), 629-640 (2006) ·Zbl 1106.65056号
[52] Zhao,X.,Ng,K.F.,Li,C.,Yao,J.C.:求解凸可行性问题的基于投影方法的线性正则性和线性收敛性。申请。数学。优化。78, 613-641 (2018) ·Zbl 1492.47089号
[53] Zhou,W.:一些下降三项共轭梯度法及其全局收敛性。优化。方法软件。22(4), 697-711 (2007) ·Zbl 1220.90094号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。