×

一种用于不完全Hessian信息优化的结构化拟Newton算法。 (英语) Zbl 1411.90358号

摘要:对于二阶导数或海森项不可用的无约束优化问题,我们提出了一种结构化的拟纽顿算法。我们对著名的Broyden-Fletcher-Goldfarb-Shanno(BFGS)割线更新公式进行了形式化推导,该公式仅近似于缺失的Hessian项,并且我们提出了一种基于Wolfe条件修正的线性搜索准Newton算法,该算法收敛于一阶最优性条件。我们还分析了结构化BFGS算法的局部收敛性,并证明了它在使用割线更新的拟Newton方法所使用的标准假设下实现了超线性收敛。我们对该算法在CUTEr测试问题集上的实际性能进行了深入研究,并表明基于BFGS的结构化拟Newton算法优于非结构化算法。

MSC公司:

90元53 拟牛顿型方法
90立方 非线性规划
90C06型 数学规划中的大尺度问题
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] S.Abhyankar、V.Rao和M.Anitescu,基于有限差分灵敏度的动态安全约束最优潮流,2014年IEEE电力和能源协会大会——会议和展览会,IEEE,2014年,第1-5页。
[2] K.Amini和A.Ghorbani Rizi,利用Hessian上部分信息的一种新的结构化拟Newton算法,J.计算。申请。数学。,234(2010),第805-811页·Zbl 1190.65094号
[3] C.G.Broyden、J.E.Dennis,Jr.和J.J.More©,关于拟牛顿方法的局部收敛性和超线性收敛性IMA J.应用。数学。,12(1973年),第223-245页·Zbl 0282.65041号
[4] R.H.Byrd和J.Nocedal,用于分析无约束极小化的拟Newton方法的工具,SIAM J.数字。分析。,26(1989),第727-739页·Zbl 0676.65061号
[5] R.H.Byrd、J.Nocedal和R.B.Schnabel,拟Newton矩阵的表示及其在有限记忆方法中的应用,数学。编程,63(1994),第129-156页·Zbl 0809.90116号
[6] J.E.Dennis,Jr.、H.J.Martinez和R.A.Tapia,结构BFGS割线法的收敛理论及其在非线性最小二乘中的应用,J.Optim。理论应用。,61(1989),第161-178页·Zbl 0645.65026号
[7] J.E.Dennis,Jr.和J.J.Moré,超线性收敛的一个特征及其在拟Newton方法中的应用,数学。公司。,28(1974年),第549-560页·Zbl 0282.65042号
[8] J.E.Dennis,Jr.和J.J.More©,准纽顿方法、动机和理论SIAM Rev.,19(1977),第46-89页·Zbl 0356.65041号
[9] J.E.Dennis,Jr.和H.F.Walker,最小变化割线更新方法的收敛定理,SIAM J.数字。分析。,18(1981),第949-987页·Zbl 0527.65032号
[10] E.D.Dolan和J.J.More©,使用性能配置文件对优化软件进行基准测试,数学。程序。,91(2002),第201-213页·邮编:1049.90004
[11] R.Fletcher,稀疏Hessian矩阵的最优正定更新、SIAM J.Optim.、。,5(1995),第192-218页·Zbl 0824.65038号
[12] R.Fourer、D.M.Gay和B.W.Kernighan,AMPL:一种数学编程语言,《数学规划中的算法和模型公式》,施普林格,柏林,海德堡,1989年,第150-151页。
[13] N.I.M.Gould、D.Orban和P.L.Toint,CUTEr和SifDec:一个受约束和不受约束的测试环境,再次访问,ACM变速器。数学。《软件》,29(2003),第373-394页·Zbl 1068.90526号
[14] A.Griewank和P.L.Toint,分区拟Newton更新的局部收敛性分析,数字。数学。,39(1982),第429-448页·Zbl 0505.65018号
[15] O.盖勒、F.盖尔图纳和O.舍甫琴科,拟Newton方法的对偶性及DFP和BFGS更新的新变分特征,最佳。方法软件。,24(2009),第45-62页·Zbl 1154.90624号
[16] J.Huschens,用结构化SQP割线算法挖掘等式约束优化中的附加结构,J.Optim。理论应用。,77(1993),第343-358页·Zbl 0792.90069号
[17] L.Lukšan和E.Spedicato,无约束优化和非线性最小二乘的变尺度方法,J.计算。申请。数学。,124(2000),第61-95页·Zbl 0985.65066号
[18] J.J.Moreí和D.J.Thuente,保证充分减少的线搜索算法,ACM变速器。数学。《软件》,20(1994),第286-307页·兹伯利0888.65072
[19] T.B.Nguyen和M.Pai,基于轨迹灵敏度的电力系统动态安全约束重调度,IEEE传输。电力系统。,18(2003),第848-854页。
[20] J.Nocedal和S.J.Wright,数值优化第二版,施普林格出版社,纽约,2006年·Zbl 1104.65059号
[21] D.P.O'Leary,Jorge J.Moreí和David J.Thuente对MINPACK行搜索算法的Matlab实现, 1991.
[22] R.塔皮亚,关于一般约束优化中使用的割线更新,数学。公司。,51(1988),第181-202页·Zbl 0657.90088号
[23] A.Waéchter和L.T.Biegler,大规模非线性规划的原对偶内点滤波线搜索算法的实现,数学。程序。,106(2006),第25-57页·Zbl 1134.90542号
[24] P.Wolfe,上升法的收敛条件,SIAM修订版,11(1969),第226-235页·兹标0177.20603
[25] P.Wolfe,上升法的收敛条件。二: 一些更正SIAM Rev.,13(1971),第185-188页·Zbl 0216.26901号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。