×

基于初始点假设的非线性共轭梯度法和尺度无记忆BFGS法的超线性收敛性。 (英语) Zbl 1433.90192号

摘要:Perry非线性共轭梯度法和标度无记忆BFGS法是求解无约束极小化问题的两种准Newton方法。文献中的所有收敛理论都假设存在一个极小值,并且目标函数在该极小值附近有界。这些条件在实践中无法检查。这项工作的动机是推导一个收敛理论,在该理论中,所有假设都可以得到验证,极小值的存在及其超线性收敛速度是该理论的结果。只考虑这些方法的基本版本,不考虑行搜索。这个理论很简单,因为它包含尽可能少的常数。

MSC公司:

90元53 拟Newton型方法
65千5 数值数学规划方法
90立方 非线性规划

软件:

SCALCG公司
PDF格式BibTeX公司 XML格式引用
全文: DOI程序

参考文献:

[1] Ciarlet,P.G.,线性和非线性函数分析及其应用(2013),SIAM:SIAM Philadelphia·Zbl 1293.46001号
[2] Nocedal,J。;Wright,S.J.,非线性优化(2006),Springer:Springer New York·兹比尔1104.65059
[3] Perry,A.,一种改进的共轭梯度算法。,操作人员。决议,26,49,1073-1078(1978)·Zbl 0419.90074号
[4] Yamashita,N.,用正定矩阵完成的稀疏拟Newton更新,数学。掠夺。,115, 1-30 (2008) ·Zbl 1151.90059号
[5] Andrei,N.,无约束优化的缩放共轭梯度算法,计算。最佳方案。申请。,38401-416(2007年)·Zbl 1168.90608号
[6] S.H.Lui,S.Nataj,基于初始点假设的Broyden和BFGS方法的超线性收敛,提交出版(2019年)·Zbl 1433.90192号
[7] Nataj,S.,准纽顿和时空谱方法专题(2019年),马尼托巴大学博士论文
[8] 丹尼斯·J·E。;Schnabel,R.,无约束优化和非线性方程的数值方法(1996),SIAM:SIAM Philadelphia·Zbl 0847.65038号
[9] Kato,T.,线性算子扰动理论简介(1982),Springer-Verlag:Springer-Verlag纽约·Zbl 0493.47008号
[10] Dai,Y.H。;廖立中,新共轭条件及相关非线性共轭梯度法,应用。数学。最佳。,43, 87-101 (2001) ·Zbl 0973.65050号
[11] 姚明,S。;He,D。;Shi,L.,一种改进的带自适应参数选择的Perry共轭梯度法,Numer。藻类。,78, 1255-1269 (2018) ·Zbl 1396.65099号
[12] Oren,S.S。;Luenberger,D.G.,自缩放变量度量(SSVM)算法,第一部分:缩放一类算法的标准和充分条件,Manag。科学。,4, 20, 845-862 (1974) ·Zbl 0316.90064号
[13] Oren,S.S。;Spedicato,E.,自缩放可变度量算法的优化条件,数学。程序。,10, 70-90 (1976) ·Zbl 0342.90045号
[14] Babaie-Kafaki,S.,无记忆BFGS更新公式的修正缩放参数,数值。藻类。,72, 425-433 (2016) ·兹比尔1342.90227
[15] Decker,D.W。;Kelley,C.T.,Broyden关于一类根为奇异雅可比的问题的方法,SIAM J.Numer。分析。,22, 3, 566-574 (1985) ·Zbl 0583.65022号
[16] 刘易斯,A.S。;Overton,M.L.,通过拟Newton方法进行非光滑优化,数学。掠夺。,141, 135-163 (2013) ·Zbl 1280.90118号
[17] 齐,L。;Sun,J.,牛顿方法的非光滑版本,数学。计划,58353-367(1993)·Zbl 0780.90090号
[18] 布鲁姆,L。;Cucker,F。;舒布,M。;Smale,S.,《复杂性与实际计算》(1998),Springer-Verlag:Springer-Verlag纽约
[19] Yakoubsohn,J.C.,求解非线性联立方程的一类方法,《复杂性杂志》,第15期,第239-281页(1999年)·Zbl 0944.65061号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。