×

等式约束最小化的准牛顿加速度。 (英语) Zbl 1153.90572号

摘要:对于约束优化问题,最优性(或KKT)系统是作为原对偶平稳性条件出现的。在适当的约束条件下,局部极小值满足KKT方程,但不幸的是,许多其他驻点(可能包括最大值点)也可以求解这些非线性系统。出于这个原因,非线性规划求解器充分利用了最小化结构,在优化中天真地使用非线性系统求解器可能会导致伪解。然而,在极小值吸引域中,非线性系统求解器可能非常有效。本文将求解非线性系统的拟Newton方法用作具有等式约束的非线性规划(增广拉格朗日)算法的加速器。为此,提出了一种周期重启动的无记忆对称秩一(SR1)校正方法。给出了收敛结果,并进行了数值实验,验证了加速度的有效性。

MSC公司:

90元53 拟Newton型方法
90立方 非线性规划
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Andreani,R.、Birgin,E.G.、Martínez,J.M.、Schuverdt,M.L.:具有一般低层约束的增广拉格朗日方法。SIAM J.Optim公司。(2007年,待发布)·兹比尔1151.49027
[2] Andreani,R.,Birgin,E.G.,Martínez,J.M.,Schuverdt,M.L.:关于一般低层约束的增广拉格朗日方法。技术报告MCDO-050303,巴西UNICAMP应用数学系(2005),在线优化和www.ime.usp.br/\(\sim\)egbirgin·Zbl 1151.49027号
[3] Andreani,R.,Martínez,J.M.,Schuverdt,M.L.:关于常数正线性相关条件与拟正态约束限定之间的关系。J.优化。理论应用。125, 473–485 (2005) ·Zbl 1125.90058号 ·doi:10.1007/s10957-004-1861-9
[4] Bertsekas,D.P.:非线性规划,第二版。雅典娜科学,贝尔蒙特(1999)
[5] Birgin,E.G.,Castillo,R.,Martínez,J.M.:非凸问题的增广拉格朗日算法的数值比较。计算。最佳方案。申请。31, 31–56 (2005) ·Zbl 1101.90066号 ·doi:10.1007/s10589-005-1066-7
[6] Birgin,E.G.,Krejić,N.,Martínez,J.M.:求解非线性系统的全局收敛非精确拟Newton方法。数字。算法32、249–260(2003)·Zbl 1034.65032号 ·doi:10.1023/A:1024013824524
[7] Birgin,E.G.,Martínez,J.M.:具有谱投影梯度的大规模活动集箱约束优化方法。计算。最佳方案。申请。23, 101–125 (2002) ·Zbl 1031.90012号 ·doi:10.1023/A:1019928808826
[8] Birgin,E.G.,Martínez,J.M.,Raydan,M.:凸集上的非单调谱投影梯度方法。SIAM J.Optim公司。10, 1196–1211 (2000) ·Zbl 1047.90077号 ·doi:10.1137/S1052623497330963
[9] Birgin,E.G.、Martínez,J.M.、Raydan,M.:算法813:SPG-凸约束优化软件。ACM事务处理。数学。柔和。27, 340–349 (2001) ·Zbl 1070.65547号 ·数字对象标识代码:10.1145/502800.502803
[10] Birgin,E.G.,Martínez,J.M.,Raydan,M.:凸集上的非精确谱投影梯度方法。IMA J.数字。分析。23, 539–559 (2003) ·Zbl 1047.65042号 ·doi:10.1093/imanum/23.4539
[11] Conn,A.R.,Gould,N.I.M.,Toint,P.L.:具有一般约束和简单边界的全局收敛增广拉格朗日优化算法。SIAM J.数字。分析。28, 545–572 (1991) ·Zbl 0724.65067号 ·doi:10.1137/0728030
[12] Conn,A.R.,Gould,N.I.M.,Toint,P.L.:对称秩一更新生成的拟Newton矩阵的收敛性。数学。程序。A 50,177–195(1991)·Zbl 0737.90062号 ·doi:10.1007/BF01594934
[13] Conn,A.R.,Gouldm,N.I.M.,Toint,P.L.:LANCELOT:用于大规模非线性优化的Fortran包。柏林施普林格出版社(1992年)·Zbl 0761.90087号
[14] Curtis,A.R.,Powell,J.D.,Reid,J.K.:关于稀疏雅可比矩阵的估计。J.Inst.数学。申请。13, 117–119 (1974) ·Zbl 0273.65036号
[15] Dennis,J.E.Jr.,Schnabel,R.B.:无约束优化和非线性方程的数值方法。应用数学经典,第16卷。SIAM,费城(1996)·Zbl 0847.65038号
[16] Deufhard,P.:高度非线性问题的牛顿技术——理论和算法。圣地亚哥学术出版社(1996)
[17] Deufhard,P.,Freund,R.,Walter,A.:大型非对称线性系统迭代解的快速割线方法。影响计算。科学。工程2,244–276(1990)·Zbl 0729.65027号 ·doi:10.1016/0899-8248(90)90014-2
[18] Diniz-Ehrhardt,M.A.、Gomes-Ruggiero,M.A.,Lopes,V.L.R.、Martínez,J.M.:求解大型非线性系统的局部变量离散牛顿法。优化52417–440(2003)·Zbl 1098.90069号 ·doi:10.1080/02331930310001611538
[19] Dostál,Z.:凸界和等式约束二次规划的非精确半单调增广Lagrangians,具有最佳可行性收敛。SIAM J.数字。分析。43, 96–115 (2005) ·Zbl 1089.65047号 ·doi:10.1137/S0036142903436393
[20] Dostál,Z.,Friedlander,A.,Santos,S.A.:具有简单边界和等式约束的二次规划的自适应精度控制的增广拉格朗日算法。SIAM J.Optim公司。13, 1120–1140 (2003) ·Zbl 1043.65076号 ·doi:10.1137/S1052623499362573
[21] Dostál,Z.,Gomes,F.A.M.,Santos,S.A.:变分不等式的自然粗糙空间基于对偶的区域分解。J.计算。申请。数学。126, 397–415 (2000) ·兹伯利0970.65074 ·doi:10.1016/S0377-0427(99)00368-4
[22] Fletcher,R.:实用优化方法。伦敦学术出版社(1987)·Zbl 0905.65002号
[23] Friedlander,A.,Gomes-Ruggiero,M.A.,Kozakevich,D.N.,Martínez,J.M.,Santos,S.A.:采用非单调策略,通过拟Newton方法求解非线性方程组。In:优化方法和软件,第8卷,第25-51页(1997)·Zbl 0893.65032号
[24] Gertz,E.M.,Gill,P.E.:非线性优化的原对偶信赖域算法。数学。程序。100, 49–94 (2004) ·Zbl 1146.90514号
[25] Gill,P.E.,Murray,W.,Saunders,M.A.:SNOPT:大规模约束优化的SQP算法。SIAM版本47,99–131(2005)·Zbl 1210.90176号 ·doi:10.1137/S0036144504446096
[26] Goldfarb,D.,Toint,P.L.:有限差分计算中雅可比矩阵和海森矩阵的最佳估计。收录于:《计算数学》,第43卷,第69–88页(1984年)·兹伯利0554.65085
[27] Gomes-Ruggiero,M.A.,Martínez,J.M.,Moretti,A.C.:比较求解稀疏非线性方程组的算法。SIAM J.科学。统计计算。13, 459–483 (1992) ·Zbl 0752.65039号 ·doi:10.1137/0913025
[28] Gould,N.I.M.,Orban,D.,Toint,P.L.:GALAHAD:用于大规模非线性优化的线程安全Fortran 90包库。ACM事务处理。数学。柔和。29, 353–372 (2003) ·Zbl 1068.90525号 ·数字对象标识代码:10.1145/962437.96243438
[29] Hager,W.W.,Zhang,H.:箱约束优化的一种新的活动集算法。佛罗里达大学数学系,2005年7月4日·Zbl 1165.90570号
[30] Hager,W.W.,Zhang,H.:算法851:CG-DESCENT,一种保证下降的共轭梯度法。ACM事务处理。数学。柔和。32, 113–137 (2006) ·Zbl 1346.90816号 ·数字对象标识代码:10.1145/1132973.1132979
[31] Hestenes,M.R.:乘数法和梯度法。J.优化。理论应用。4, 303–320 (1969) ·Zbl 0174.20705号 ·doi:10.1007/BF00927673
[32] Hock,W.,Schittkowski,K.:非线性编程代码的测试示例。《经济和数学系统讲义》,第187卷。施普林格,纽约(1981)·Zbl 0452.90038号
[33] Kelley,C.T.:线性和非线性方程的迭代方法。SIAM,费城(1995)·Zbl 0832.65046号
[34] Kelley,C.T.,Sachs,E.W.:对称秩一迭代的局部收敛性。计算。最佳方案。申请。9, 43–63 (1998) ·Zbl 0944.49023号 ·doi:10.1023/A:1018330119731
[35] Khalfan,H.,Byrd,R.H.,Schnabel,R.B.:对称秩一更新的理论和实验研究。SIAM J.Optim公司。3, 1–24 (1993) ·Zbl 0771.65029号 ·数字对象标识代码:10.1137/0803001
[36] Kozakevich,D.N.,Martínez,J.M.,Santos,S.A.:用简单约束求解非线性方程组。计算。申请。数学。16, 215–235 (1997) ·Zbl 0896.65041号
[37] Krejić,N.,Martínez,J.M.,Mello,M.P.,Pilotta,E.A.:使用一组硬球问题验证高斯-纽顿-黑森近似的增广拉格朗日算法。计算。最佳方案。申请。16, 247–263 (2000) ·Zbl 0997.90103号 ·doi:10.1023/A:1008716329104
[38] Li,D.-H.,Fukushima,M.:非线性方程类Broyden方法的无导数线搜索和全局收敛性。最佳方案。方法软件。13, 181–201 (2000) ·Zbl 0960.65076号 ·doi:10.1080/10556780008805782
[39] Lukšan,L.,Vlček,J.:无约束和等式约束优化的稀疏和部分可分离测试问题。捷克共和国科学院计算机科学研究所技术报告767(1999)
[40] Martínez,J.M.:求解非线性系统的实用准Newton方法。J.计算。申请。数学。124, 97–122 (2000) ·Zbl 0967.65065号 ·doi:10.1016/S0377-0427(00)00434-9
[41] Martínez,J.M.,Pilotta,E.A.:非线性规划的不精确恢复方法:进展与展望。摘自:《应用优化与控制》,第271-292页。施普林格,纽约(2005)·Zbl 1118.90319号
[42] Martínez,J.M.,Qi,L.:求解非光滑方程的非精确牛顿方法。J.计算。申请。数学。60, 127–145 (1995) ·Zbl 0833.65045号 ·doi:10.1016/0377-0427(94)00088-I
[43] Nocedal,J.、Wright,S.J.:数值优化。纽约施普林格出版社(1999年)·Zbl 0930.65067号
[44] Powell,M.J.D.:最小化问题中非线性约束的一种方法。摘自:Fletcher,R.(编辑)《优化》,第283-298页。纽约学术出版社(1969)·Zbl 0194.47701号
[45] 齐,L.,孙,J.:牛顿方法的非光滑版本。数学。程序。58, 353–367 (1993) ·Zbl 0780.90090号 ·doi:10.1007/BF01581275
[46] Qi,L.,Wei,Z.:关于常数正线性相关条件及其在SQP方法中的应用。SIAM J.Optim公司。10, 963–981 (2000) ·Zbl 0999.90037号 ·doi:10.137/S1052623497326629
[47] Rockafellar,R.T.:非凸规划中的增广拉格朗日乘子函数和对偶性。SIAM J.控制12,268–285(1974)·doi:10.1137/0312021
[48] 沙曼斯基,V.E.:牛顿方法的修正。Ukrain Mat.Z.19、133–138(1967)
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。