袁、龚琳;魏增新;李国银 非光滑凸规划的改进Polak-Ribière-Polyak共轭梯度算法。 （英语） Zbl 1291.90315号 J.计算。申请。数学。 255, 86-96 (2014)。 摘要：共轭梯度法（CG）由于其简单性和低内存需求，是求解光滑无约束优化问题最常用的方法之一。然而，到目前为止，CG方法的使用主要局限于求解光滑优化问题。本文旨在提出求解非光滑优化问题的有效共轭梯度型方法。通过使用Moreau-Yosida调节（平滑）方法和非单调线搜索技术，我们提出了一种改进的Polak-Ribière-Polyak（PRP）CG算法，用于求解非光滑无约束凸极小化问题。我们的算法具有以下三个所需的特性。（i） 搜索方向满足充分下降性质，自动属于信任域；（ii）搜索方向不仅利用梯度信息，还利用函数值信息；（iii）该算法继承了众所周知的PRP方法的一个重要特性：如果在远离解的地方生成一小步，则倾向于转向最陡峭的下降方向，从而防止发生一系列小步。在标准条件下，我们证明了算法全局收敛到最优解。数值实验表明，该算法是有效的，适用于求解大规模非光滑无约束凸优化问题。 引用于47文件 MSC公司： 90摄氏52度 减少梯度类型的方法 65千5 数值数学规划方法 90立方 非线性规划 关键词：非光滑凸优化;共轭梯度法;非单调线搜索;全球收敛 软件：CG_退出;PNEW公司;LDGB公司 PDF格式BibTeX公司 XML格式引用 \textit{G.Yuan}等人，J.Compute。申请。数学。255，86-96（2014；Zbl 1291.90315） 全文： 内政部 参考文献： [1] 戴，Y。；Yuan，Y.，具有强全局收敛性的非线性共轭梯度，SIAM优化杂志，10，177-182（2000）·Zbl 0957.65061号 [2] Fletcher，R.，《实用优化方法》，第一卷：无约束优化（1997），威利出版社，纽约 [3] 弗莱彻，R。；Reeves，C.，《共轭梯度函数最小化》，《计算机杂志》，第7期，第149-154页（1964年）·Zbl 0132.11701号 [4] Hestenes，M.R。；Stiefel，E.，求解线性方程的共轭梯度法，国家标准局研究杂志，49，409-436（1952）·Zbl 0048.09901号 [5] Polak，E。；Ribière，G.，《方向共轭收敛的注释》，《法国自动化信息技术评论》，第3期，第35-43页（1969年）·Zbl 0174.48001号 [6] Polyak，B.T.，极端问题中的共轭梯度法，苏联计算数学和数学物理，9，94-112（1969）·Zbl 0229.49023号 [7] 魏，Z。；李·G。；Qi，L.，大型无约束优化问题的新非线性共轭梯度公式，应用数学与计算，179407-430（2006）·Zbl 1106.65055号 [8] Li，Q.，用于不可微凸最小化的共轭梯度型方法，Optimization Letters，7，3，533-545（2013）·Zbl 1287.90049号 [9] Yu，G。；Guan，L.T。；Li，G.，具有充分下降性质的修正Polak-Ribière-Polyak共轭梯度法的全局收敛性，工业与管理优化杂志，4，3，565-579（2008）·Zbl 1168.65030号 [10] 张，L。；Li，J.，非凸极小化非线性共轭梯度法的新全球化技术，应用数学与计算，21710295-10304（2011）·Zbl 1232.65096号 [11] Banham，M.R。；Katsaggelos，A.K.，数字图像恢复，IEEE Signal Processing Magazine，14，24-41（1997） [12] Chan，C.L。；Katsaggelos，A.K。；Sahakian，A.V.，量子限制噪声中的图像序列滤波及其在低剂量透视中的应用，IEEE医学成像学报，12610-621（1993） [14] A.R.康涅狄格州。；新墨西哥州古尔德。；Toint，P.L.，《信托区域方法》（2000），SIAM：美国费城SIAM·Zbl 0958.65071号 [15] 福岛，M。；Qi，L.，非光滑凸极小化的全局超线性收敛算法，SIAM优化杂志，61106-1120（1996）·Zbl 0868.90109号 [16] Birge，J.R。；齐，L。；Wei，Z.，一些非光滑凸优化方法收敛性的一般方法，应用数学与优化，38，141-158（1998）·Zbl 0910.90228号 [17] Rockafellar，R.T.，《单调算子和近点算法》，SIAM控制与优化杂志，14877-898（1976）·Zbl 0358.90053号 [18] Birge，J.R。；齐，L。；Wei，Z.，最小化非光滑凸函数的一些方法的收敛性分析，优化理论与应用杂志，97，357-383（1998）·Zbl 0907.90216号 [19] Bonnans，J.F.（博南斯，J.F.）。；吉尔伯特，J.C。；Lemaréchal，C。；Sagastizábal，C.A.，一系列可靠的度量近似方法，《数学规划》，68，15-47（1995）·Zbl 0832.90102号 [20] 科雷亚，R。；Lemaréchal，C.，一些凸极小化算法的收敛性，数学规划，62261-273（1993）·Zbl 0805.90083 [21] 魏，Z。；Qi，L.，近似牛顿法的收敛性分析，数值泛函分析与优化，17463-472（1996）·Zbl 0884.90123号 [22] 魏，Z。；齐，L。；Birge，J.R.，非光滑凸优化的新方法，不等式与应用杂志，2157-179（1998）·Zbl 0903.90131号 [24] Wolfe，P.，最小化不可微凸函数的共轭次梯度方法，数学规划研究，3145-173（1975）·Zbl 0369.90093号 [25] Kiwiel，K.C.，凸不可微优化的束方法中的邻近控制，数学规划，46，105-122（1990）·Zbl 0697.90060号 [26] 施拉姆，H。；Zowe，J.，最小化非光滑函数的束思想的一个版本：概念思想，收敛分析，数值结果，SIAM优化杂志，212-152（1992）·兹比尔0761.90090 [27] 哈拉拉，M。；Miettinen，K。；Mäkelä，M.M.，用于大规模非光滑优化的新有限内存束方法，优化方法和软件，19673-692（2004）·Zbl 1068.90101号 [28] Kiwiel，K.C.，《不可微优化的下降方法》（1985），Springer-Verlag:Springer-Verlag Berlin，纽约·Zbl 0561.90059号 [29] Kiviel，K.C.，凸不可微优化的近水平丛方法，鞍点问题和变分不等式，数学规划，6989-109（1995）·Zbl 0857.90101号 [31] 艾哈迈德·T。；Storey，D.，高效混合共轭梯度技术，优化理论与应用杂志，64，379-394（1990）·Zbl 0666.90063号 [32] Al-Baali，A.，带不精确线搜索的Flecher-Reeves方法的下降性质和全局收敛性，IMA数值分析杂志，5121-124（1985）·Zbl 0578.65063号 [33] 吉尔伯特，J.C。；Nocedal，J.，共轭梯度法优化的全局收敛性，SIAM优化杂志，2，21-42（1992）·Zbl 0767.90082号 [34] 胡永福。；Storey，C.，共轭方法的全局收敛结果，优化理论与应用杂志，71，399-405（1991）·Zbl 0794.90063号 [35] Hager，W。；Zhang，H.，一种新的保下降共轭梯度法和有效的线搜索，SIAM优化杂志，16，170-192（2005）·邮编1093.90085 [36] Hager，W。；Zhang，H.，算法851:CG_DESCENT，一种保证下降的共轭梯度法，ACM数学软件汇刊，32，113-137（2006）·Zbl 1346.90816号 [37] 魏，Z。；李·G。；Qi，L.，非凸无约束优化问题的不精确线搜索Polak-Ribiere-Polyak共轭梯度法的全局收敛性，计算数学，77，2173-2193（2008）·Zbl 1198.65091号 [38] Yuan，G.，大型优化问题具有充分下降性的改进非线性共轭梯度法，《优化快报》，3，11-21（2009）·Zbl 1154.90623号 [39] 袁，G。；Lu，X.，改良PRP共轭梯度法，运筹学年鉴，16673-90（2009）·Zbl 1163.90798号 [40] 袁，G。；卢，X。；Wei，Z.，无约束优化的带下降方向的共轭梯度法，计算与应用数学杂志，233519-530（2009）·Zbl 1179.65075号 [41] 张，L。；周，W。；Li，D.，下降修正的Polak-Ribière-Polyak共轭方法及其全局收敛性，IMA数值分析杂志，26，629-649（2006）·Zbl 1106.65056号 [42] 李·G。；唐，C.M。；Wei，Z.X.，无约束优化的新共轭条件及相关新共轭梯度法，计算与应用数学杂志，202,2523-539（2007）·Zbl 1116.65069号 [43] 魏，Z。；李·G。；Qi，L.，无约束优化问题的新拟Newton方法，应用数学与计算，1751156-1188（2006）·Zbl 1100.65054号 [44] 魏，Z。；Yu，G。；袁，G。；Lian，Z.，无约束优化的修正BFGS型方法的超线性收敛性，计算优化与应用，29315-332（2004）·Zbl 1070.90089 [45] Xiao，Y。；魏，Z。；Wang，Z.，用于大规模无约束优化的有限内存BFGS型方法，计算数学应用，561001-1009（2008）·Zbl 1155.90441号 [46] 袁，G。；Wei，Z.，关于凸极小化的修正BFGS方法的收敛性分析，计算优化与应用，47237-255（2010）·Zbl 1228.90077号 [47] 袁，G。；魏，Z。；Wu，Y.，无约束优化中带非单调线搜索的改进有限记忆BFGS方法，韩国数学学会杂志，47767-788（2010）·Zbl 1193.65105号 [48] 张，H。；Hager，W.，非单调线性搜索技术及其在无约束优化中的应用，SIAM优化期刊，141043-1056（2004）·Zbl 1073.90024号 [50] 刘，Y。；Storey，C.，《高效广义共轭梯度算法第1部分：理论》，《应用数学与计算杂志》，69，17-41（1992） [51] 卢克桑，L。；弗切克，J.，非光滑无约束极小化的bundle-Newton方法，数学规划，83，373-391（1998）·Zbl 0920.90132号 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。