×

凸极小化的修正BFGS方法的收敛性分析。 (英语) Zbl 1228.90077号

摘要:针对无约束优化问题,提出了一种改进的BFGS方法。在适当的假设下,建立了凸函数的全局收敛性和超线性收敛性。数值结果表明,该方法是有趣的。

MSC公司:

90C25型 凸面编程
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Broyden,C.G.,Dennis,J.E.,Moré,J.J.:关于拟Newton方法的局部和超线性收敛性。J.Inst.数学。申请。12, 223–246 (1973) ·兹比尔0282.65041 ·doi:10.1093/imamat/123.323
[2] Byrd,R.,Nocedal,J.:用于分析无约束极小化应用的拟Newton方法的工具。SIAM J.数字。分析。26, 727–739 (1989) ·Zbl 0676.65061号 ·doi:10.1137/0726042
[3] Byrd,R.,Nocedal,J.,Yuan,Y.:凸问题上一类拟Newton方法的全局收敛性。SIAM J.数字。分析241171-1189(1987)·Zbl 0657.65083号 ·数字对象标识代码:10.1137/0724077
[4] Dai,Y.:BFGS算法的收敛特性。SIAM J.Optim公司。13, 693–701 (2003) ·Zbl 1036.65052号 ·doi:10.1137/S1052623401383455
[5] Davidon,W.C.:最小化的可变度量方法。伊利诺伊州阿贡市阿贡国家实验室报告(1959年)
[6] Dennis,J.E.Jr.,Moré,J.J.:准牛顿方法、动机和理论。SIAM第19版,46–89(1977)·Zbl 0356.65041号 ·doi:10.1137/1019005
[7] Dennis,J.E.,Moré,J.J.:超线性收敛的特征及其在拟Newton方法中的应用。数学。压缩机。28, 549–560 (1974) ·Zbl 0282.65042号 ·doi:10.1090/S0025-5718-1974-0343581-1
[8] Dennis,J.E.,Schnabel,R.B.:无约束优化和非线性方程的数值方法。Prentice-Hall,Englewood Cliffs(1983年)·Zbl 0579.65058号
[9] Dixon,L.C.W.:可变度量算法:非二次函数上相同行为的Nessary和充分条件。J.优化。理论应用。10, 34–40 (1972) ·Zbl 0226.49014号 ·doi:10.1007/BF00934961
[10] Dolan,E.D.,Moré,J.J.:用性能曲线对优化软件进行基准测试。数学。程序。91, 201–213 (2002) ·邮编:1049.90004 ·doi:10.1007/s101070100263
[11] Fletcher,R.:实用优化方法,第2版。奇切斯特·威利(1987)·Zbl 0905.65002号
[12] Gould,N.I.M.:Dominique Orban和Philippe L.Toint,CUTEr(和SifDec):一个受约束和不受约束的测试环境,重新审视。ACM事务处理。数学。柔和。29373–394(2003年)·Zbl 1068.90526号
[13] Griewank,A.:关于凸分解和Lipschitzian梯度问题的分区BFGS的全局收敛性。数学。程序。50, 141–175 (1991) ·Zbl 0736.90068号 ·doi:10.1007/BF01594933
[14] Griewank,A.:类似Broyden方法的“全局”收敛与适当的线搜索。J.澳大利亚。数学。Soc.序列号。B 28,75–92(1986)·Zbl 0596.65034号 ·doi:10.1017/S0334270000005208
[15] Griewank,A.,Toint,Ph.L.:分区准Newton更新的局部收敛分析。数字。数学。39, 429–448 (1982) ·Zbl 0505.65018号 ·doi:10.1007/BF01407874
[16] Han,J.Y.,Liu,G.H.:凸目标函数上新的非单调BFGS算法的全局收敛性分析。计算。最佳方案。申请。7, 277–289 (1997) ·Zbl 0876.90072号 ·doi:10.1023/A:1008656711925
[17] Han,J.Y.,Liu,G.H.:关于步长选择的一般形式的注释。或拒绝。制造商。1, 619–624 (1992)
[18] Li,D.,Fukushima,M.:一种改进的BFGS方法及其在非凸极小化中的全局收敛性。J.计算。申请。数学。129, 15–35 (2001) ·Zbl 0984.65055号 ·doi:10.1016/S0377-0427(00)00540-9
[19] Li,D.,Fukushima,M.:关于非凸无约束优化问题的BFGS方法的全局收敛性。SIAM J.Optim公司。11, 1054–1064 (2001) ·Zbl 1010.90079号 ·doi:10.1137/S1052623499354242
[20] Li,G.,Tang,C.,Wei,Z.:无约束优化问题的新共轭条件和相关的新共轭梯度方法。J.计算。申请。数学。202, 532–539 (2007) ·Zbl 1116.65069号 ·doi:10.1016/j.cam.2006.03.005
[21] Liu,G.H.,Han,J.Y.,Xu,Z.L.:广义Wolfe线性搜索的变度量算法的全局收敛性。数学杂志。Res.Exp.4,499–508(1995年)·Zbl 0866.90113号
[22] Liu,G.H.,Han,J.Y.,Sun,D.F.:基于非单调线性搜索的BFGS算法的全局收敛性分析。优化34、147–159(1995)·Zbl 0858.90122号 ·doi:10.1080/02331939508844101
[23] Liu,G.H.,Peng,J.M.:非单调算法的收敛性。J.计算。数学。1, 65–71 (1992) ·Zbl 0900.65189号
[24] Mascarenhas,W.F.:具有精确行搜索的BFGS方法无法用于非凸目标函数。数学。程序。99, 49–61 (2004) ·兹比尔1082.90108 ·doi:10.1007/s10107-003-0421-7
[25] Moré,J.J.,Garbow,B.S.,Hillstrome,K.E.:测试无约束优化软件。ACM事务处理。数学。柔和。7, 17–41 (1981) ·Zbl 0454.65049号 ·doi:10.1145/355934.355936
[26] Pearson,J.D.:变尺度最小化方法。计算。J.12,171–178(1969)·Zbl 0207.17301号 ·doi:10.1093/comjnl/12.2171
[27] Powell,M.J.D.:关于可变度量算法的收敛性。J.Inst.数学。申请。7, 21–36 (1971) ·Zbl 0217.52804号 ·doi:10.1093/imamat/7.1.21
[28] Powell,M.J.D.:可变度量算法的一些特性。In:Lootsma,F.A.(编辑)非线性优化的数值方法。伦敦学术出版社(1972)·Zbl 0288.65036号
[29] Powell,M.J.D.:无需精确线搜索的最小化变尺度算法的一些全局收敛性。In:Cottle,R.W.,Lemke,C.E.(eds.)非线性规划,SIAM-AMS Proceedings,vol.IX.SIAM,Philadelphia(1976)·Zbl 0338.65038号
[30] Powell,M.J.D.:无约束优化的新算法。摘自:Rosen,J.B.,Mangasarian,O.L.,Ritter,K.(编辑)非线性规划,第31-65页。纽约学术出版社(1970)·Zbl 0228.90043号
[31] Schropp,J.:关于最小化问题和多步骤方法的注释。数字。数学。78, 87–101 (1997) ·Zbl 0884.34021号 ·doi:10.1007/s002110050305
[32] Schrop,J.:约束最小化问题的一步和多步程序。IMA J.数字。分析。20, 135–152 (2000) ·Zbl 0945.65065号 ·doi:10.1093/imanum/20.1.135
[33] Toint,Ph.L.:凸部分可分离优化的分区BFGS算法的全局收敛性。数学。程序。36, 290–306 (1986) ·Zbl 0626.90076号 ·doi:10.1007/BF02592063
[34] Van Wyk,D.J.:差分优化技术。申请。数学。模型。8, 419–424 (1984) ·Zbl 0555.90092号 ·doi:10.1016/0307-904X(84)90048-9
[35] Vrahatis,M.N.,Androulakis,G.S.,Lambrinos,J.N.,Magolas,G.D.:一类具有自适应步长的梯度无约束最小化算法。J.计算。申请。数学。114367–386(2000年)·Zbl 0958.65072号 ·doi:10.1016/S0377-0427(99)00276-9
[36] Wei,Z.,Li,G.,Qi,L.:无约束优化问题的新拟Newton方法。预印本·Zbl 1100.65054号
[37] Wei,Z.,Qi,L.,Chen,X.:一种SQP型方法及其在随机规划中的应用。J.优化。理论应用。116, 205–228 (2003) ·Zbl 1030.90142号 ·doi:10.1023/A:1022122521816
[38] Wei,Z.、Yu,G.、Yuan,G.,Lian,Z.:无约束优化的修正BFGS型方法的超线性收敛性。计算。最佳方案。申请。29, 315–332 (2004) ·Zbl 1070.90089 ·doi:10.1023/B:COAP.000044184.25410.39
[39] Yuan,G.L.:用于大规模优化问题的具有充分下降性的改进非线性共轭梯度法。最佳方案。莱特。(2008). doi:10.1007/s11590-008-0086-5
[40] Yuan,G.L.,Lu,X.W.:一种新的无约束优化信赖域线搜索方法。Commun公司。申请。非线性分析15(1),35-49(2008)·Zbl 1146.49031号
[41] 袁毅、孙伟:优化理论与方法。中国科学出版社,北京(1999)
[42] Yuan,G.L.,Wei,Z.X.:无约束优化的新线搜索方法。《韩国统计学会期刊》(2008)。doi:10.1016/j.jkss.2008.05.004·Zbl 1293.65098号
[43] Yuan,G.,Wei,Z.:凸目标函数上非单调BFGS算法的超线性收敛性分析。数学学报。Sinica,工程师系列。24(1), 35–42 (2008) ·Zbl 1152.65072号 ·doi:10.1007/s10114-007-1012-y
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。