×

非凸大规模优化中的预处理Newton-Krylov方法。 (英语) Zbl 1314.90063号

摘要:我们考虑了一种用于非凸大规模优化的迭代预处理技术。首先,我们使用Krylov子空间方法来求解大规模不定线性系统,并描述了不涉及矩阵乘积或矩阵存储的预条件子的迭代构造。Krylov子空间方法生成的方向集作为副产品用于提供近似逆预条件。然后,对于大规模无约束优化,我们在截断牛顿格式中经历了我们的预条件,其中我们将截断规则推广为S.G.纳什A.柔软[《运营研究快报》第9卷第4期,219–221页(1990年;Zbl 0706.90073号)]也适用于不确定情况。我们使用Krylov子空间方法来近似求解牛顿方程,并构造用于当前外部迭代的预条件。大量数值实验表明,与非条件策略和PREQN相比,该预处理策略[J.L.莫拉莱斯J.诺塞达尔,SIAM J.优化。10,第4期,1079–1096(2000年;Zbl 1020.65019号)],可能导致整体内部迭代的减少。最后,我们证明了我们的建议与有限记忆前置条件有一些相似之处[S.格拉顿等,SIAM J.Optim。21,第3期,912–935(2011年;Zbl 1273.65044号)].

MSC公司:

90C26型 非凸规划,全局优化
90C06型 数学规划中的大尺度问题
65千5 数值数学规划方法
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Baglama,J.,Calvetti,D.,Golub,G.H.,Reichel,L.:自适应预处理GMRES算法。SIAM J.科学。计算。20, 243-269 (1998) ·Zbl 0954.65026号 ·doi:10.1137/S1064827596305258
[2] D.S.伯恩斯坦:《矩阵数学》,第二版。普林斯顿大学出版社,普林斯顿(2009)·Zbl 1183.15001号
[3] Conn,A.R.,Gould,N.I.M.,Toint,P.L.:信托区域方法。MPS-SIAM优化系列。SIAM,费城(2000)·Zbl 0958.65071号 ·数字对象标识代码:10.1137/1.9780898719857
[4] Dembo,R.S.,Steihaug,T.:大规模无约束优化的截断-Newton算法。数学。程序。26, 190-212 (1983) ·Zbl 0523.90078号 ·doi:10.1007/BF02592055
[5] Dolan,E.D.,Moré,J.:用性能曲线对优化软件进行基准测试。数学。程序。91, 201-213 (2002) ·邮编:1049.90004 ·doi:10.1007/s101070100263
[6] Erhel,J.,Burrage,K.,Pohl,B.:受通货紧缩的影响,重新启动了GMRES。J.计算。申请。数学。69, 303-318 (1996) ·Zbl 0854.65025号 ·doi:10.1016/0377-0427(95)00047-X
[7] Fasano,G.:大规模无约束优化的平面共轭梯度算法,第1部分:理论。J.优化。理论应用。125, 523-541 (2005) ·Zbl 1079.90162号 ·doi:10.1007/s10957-005-2087-1
[8] Fasano,G.:大规模无约束优化的平面共轭梯度算法,第2部分:应用。J.优化。理论应用。125, 543-558 (2005) ·Zbl 1079.90163号 ·doi:10.1007/s10957-005-2088-0
[9] Fasano,G.:无约束优化中的Lanczos共轭梯度法和伪逆计算。J.优化。理论应用。132, 267-285 (2006) ·Zbl 1151.65023号 ·doi:10.1007/s10957-006-9119-3
[10] Fasano,G.,Roma,M.:大规模优化中负曲率方向的迭代计算。计算。最佳方案。申请。38, 81-104 (2007) ·Zbl 1171.90549号 ·doi:10.1007/s10589-007-9034-z
[11] Gill,P.E.,Murray,W.,Ponceleon,D.B.,Saunders,M.A.:优化中出现的不确定系统的先决条件。SIAM J.矩阵分析。申请。13, 292-311 (1992) ·Zbl 0749.65037号 ·doi:10.1137/0613022
[12] Giraud,L.,Gratton,S.:关于一些光谱预处理器的灵敏度。SIAM J.矩阵分析。申请。27, 1089-1105 (2006) ·兹比尔1104.65040 ·doi:10.1137/040617546
[13] Golub,G.H.,Van Loan,C.F.:《矩阵计算》,第三版。约翰·霍普金斯出版社,巴尔的摩(1996)·Zbl 0865.65009号
[14] Gould,N.I.M.,Lucidi,S.,Roma,M.,Toint,Ph.L.:在无约束优化的线搜索方法中利用负曲率方向。最佳方案。方法软件。14, 75-98 (2000) ·Zbl 0988.90039号 ·网址:10.1080/10556780008805794
[15] Gould,N.I.M.,Orban,D.,Toint,Ph.L.:CUTEr(和sifdec),一个约束和非约束测试环境,已修订。ACM事务处理。数学。柔和。29, 373-394 (2003) ·Zbl 1068.90526号 ·数字对象标识代码:10.1145/962437.96243439
[16] Gratton,S.,Sartenaer,A.,Tshimanga,J.:关于具有多个右手边的大规模线性系统的一类有限记忆预处理器。SIAM J.Optim公司。21, 912-935 (2011) ·Zbl 1273.65044号 ·doi:10.1137/08074008
[17] Grippo,L.,Lampariello,F.,Lucidi,S.:无约束优化的非单调线搜索截断牛顿法。J.优化。理论应用。60, 401-419 (1989) ·Zbl 0632.90059号 ·doi:10.1007/BF00940345
[18] Kelley,C.T.:优化的迭代方法。SIAM应用数学前沿。费城SIAM(1999年)·Zbl 0934.90082号 ·数字对象标识代码:10.1137/1.9781611970920
[19] Loghin,L.,Ruiz,D.,Touhami,A.:非线性方程组的自适应预处理器。J.计算。申请。数学。189, 362-374 (2006) ·Zbl 1088.65048号 ·doi:10.1016/j.cam.2005.04.060
[20] Morales,J.L.,Nocedal,J.:算法PREQN:Fortran 77子程序,用于预处理共轭梯度法。ACM事务处理。数学。柔和。27, 83-91 (2001) ·Zbl 1070.65538号 ·数字对象标识代码:10.1145/382043.382343
[21] Morales,J.L.,Nocedal,J.:通过有限记忆准Newton更新进行自动预处理。SIAM J.Optim公司。10, 1079-1096 (2000) ·Zbl 1020.65019号 ·doi:10.1137/S1052623497327854
[22] Nash,S.G.:截断-Newton方法的预处理。SIAM J.科学。统计计算。6, 599-616 (1985) ·Zbl 0592.65038号 ·doi:10.1137/0906042
[23] Nash,S.G.:截断Newton方法的调查。J.计算。申请。数学。124, 45-59 (2000) ·Zbl 0969.65054号 ·doi:10.1016/S0377-0427(00)00426-X
[24] Nash,S.G.,Sofer,A.:在截断的Newton方法中评估搜索方向。操作。Res.Lett公司。9, 219-221 (1990) ·Zbl 0706.90073号 ·doi:10.1016/0167-6377(90)90065-D
[25] Nocedal,J。;Watson,A.(编辑);Duff,I.(编辑),《大规模无约束优化》,311-338(1997),牛津·Zbl 0881.65055号
[26] Roma,M.:大规模无约束优化中截断牛顿方法的基于动态缩放的预处理。最佳方案。方法软件。20, 693-713 (2005) ·Zbl 1127.90408号 ·doi:10.1080/1055678041001727709
[27] 斯托尔,J。;Bachem,A.(编辑);Grötschel,M.(编辑);Korte,B.(编辑),用共轭梯度型方法求解大型线性方程组,540-565(1983),柏林·Zbl 0553.65022号 ·数字对象标识代码:10.1007/978-3-642-68874-4_21
[28] Tshimanga,J.,Gratton,S.,Weaver,A.T.,Sartenaer,A.:有限记忆预条件及其在增量四维变分数据同化中的应用。Q.J.R.Meteorol公司。Soc.134751-769(2008年)·doi:10.1002/qj.228
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。