×
戴玉红

Barzilai-Borwein梯度法的新分析。 （英语） Zbl 1334.90162号

《运营杂志》。Res.Soc.中国 第1期，第2期，187-198（2013）.
摘要：Barzilai和Borwein（BB）梯度法由于其简单有效，在不同领域受到了不同的关注。本文对二维严格凸二次函数的BB方法进行了新的分析。分析从假设前两次迭代时的梯度范数是固定的开始。我们证明了在最多三个连续步骤中存在一个超线性收敛步骤。同时，我们为BB方法提供了更好的收敛关系。综合考虑了起始点和条件数对收敛速度的影响。

引用于17文件

MSC公司：

90立方厘米 非线性规划
90摄氏52度 降低梯度类型的方法

关键词：

无约束最优化;Barzilai和Borwein梯度法;二次函数;\（R\）-超线性收敛;条件编号

软件：

配置文件_QP;GPDT公司
PDF格式BibTeX公司 XML格式引用
\textit{Y.-H.戴}，J.Oper。Res.Soc.China 1，编号2187-198（2013；兹bl 1334.90162）
全文： 内政部

参考文献：

[1] Akaike，H.：关于概率分布的逐次变换及其在最佳梯度法分析中的应用。Ann.Inst.Stat.数学。东京11，1-17（1959）·Zbl 0100.14002号 ·doi:10.1007/BF01831719
[2] Barzilai，J.，Borwein，J.M.：两点步长梯度法。IMA J.数字。分析。8, 141–148 (1988) ·Zbl 0638.65055号 ·doi:10.1093/imanum/8.1.141
[3] Birgin，E.G.，Martínez，J.M.，Raydan，M.：凸集上的非单调谱投影梯度方法。SIAM J.Optim公司。10, 1196–1211 (2000) ·Zbl 1047.90077号 ·doi:10.1137/S1052623497330963
[4] Cauchy，A.：同时求解系统方程的方法。C.R.科学。巴黎25536–538（1847）
[5] Dai，Y.H.，Fletcher，R.：关于一些新梯度方法的渐近行为。数学。程序。，序列号。A 103、541–559（2005）·Zbl 1099.90038号 ·doi:10.1007/s10107-004-0516-9
[6] Dai，Y.H.，Fletcher，R.：受上下界约束的单线性约束二次规划的新算法。数学。程序。，序列号。A 106、403–421（2006）·Zbl 1134.90030号 ·doi:10.1007/s10107-005-0595-2
[7] Dai，Y.H.，Liao，L.Z.：Barzilai和Borwein梯度法的R-线性收敛性。IMA J.数字。分析。26, 1–10 (2002) ·Zbl 1002.65069号 ·doi:10.1093/imanum/22.1.1
[8] Grippo，L.，Lampariello，F.，Lucidi，S.：牛顿方法的非单调线搜索技术。SIAM J.数字。分析。23, 707–716 (1986) ·兹比尔0616.65067 ·doi:10.1137/0723046
[9] Nocedal，J.，Sartenaer，A.，Zhu，C.：关于最速下降法中梯度范数的行为。计算。最佳方案。申请。22, 5–35 (2002) ·Zbl 1008.90057号 ·doi:10.1023/A:1014897230089
[10] Raydan，M.：关于Barzilai和Borwein梯度法步长的选择。IMA J.数字。分析。13, 321–326 (1993) ·Zbl 0778.65045号 ·doi:10.1093/imanum/13.3321
[11] Raydan，J.：大规模无约束最小化问题的Barzilai和Borwein梯度法。SIAM J.Optim公司。7, 26–33 (1997) ·Zbl 0898.90119号 ·doi:10.1137/S10526223494266365
[12] Serafini，T.、Zanghirati，G.、Zanni，L.：二次规划的梯度投影方法及其在训练支持向量机中的应用。最佳方案。方法软件。20, 347–372 (2005) ·Zbl 1072.90026号
[13] Wright，S.J.、Nowak，R.D.、Figueiredo，M.A.T.：通过可分离近似进行稀疏重建。IEEE传输。信号处理。57, 2479–2493 (2009) ·Zbl 1391.94442号 ·doi:10.1109/TSP.2009.2016892
[14] Yuan，Y.：非线性规划的数值方法。上海科学技术出版社，上海（1993）
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。