×

当目标函数是二次函数时,BFGS和DFP方法有多糟糕? (英语) Zbl 0581.90068号

我们研究了使用步长为1的BFGS和DFP算法来最小化仅有两个变量的二次函数。这种情况下的更新公式意味着连续二阶导数近似的特征值之间存在非线性三项递推关系,为了解释可能出现的一些严重无效性,对这些关系进行了分析。具体来说,BFGS算法可能需要10多次迭代才能达到精度的第一个小数位,而DFP方法的性能要差得多。这些结果有助于解释为什么DFP方法通常不如BFGS算法适用于一般无约束优化计算,并且它们表明,当当前变量向量距离渐近收敛分析的解太远时,二次函数提供了有关效率的许多信息。

MSC公司:

90C20个 二次规划
65千5 数值数学规划方法
PDF格式BibTeX公司 XML格式引用
全文: DOI程序

参考文献:

[1] R.Fletcher,“可变度量算法的新方法”,《计算机期刊》13(1970)317-322·Zbl 0207.17402号 ·doi:10.1093/comjnl/13.3317
[2] R.Fletcher,实用优化方法,第1卷:无约束优化(John Wiley&Sons,Chichester,1980)·Zbl 0439.93001号
[3] M.J.D.Powell,“关于无约束优化的可变度量算法的收敛速度”,《DAMTP 1983/NA7报告》(剑桥,1983年),发表于《国际数学家大会论文集》,1983年,华沙(波兰科学出版社,华沙,1984年),第1525-1539页。
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。