箭头
第37卷第6期
稳定Barzilai-Borwein方法

奥列格·布尔达科夫,于洪戴&Na Huang(黄娜)

J.公司。数学。,37(2019),第916-936页。

在线发布:2019-11

导出引文
  • 摘要

Barzilai-Borwein(BB)方法是求解大规模问题的一种流行且有效的工具无约束优化问题。其搜索方向与最陡的相同下降(柯西)法,但其步长规则不同。因此,它收敛比柯西方法快得多。BB方法的一个特点是它可以生成步骤太长,导致迭代距离解决方案太远。此外,它即使目标函数是强凸的,也可能不收敛。在本文中介绍了稳定技术。它包括限定每个一对连续迭代,这通常允许减少BB迭代的次数。当BB方法不收敛时,我们对该方法的简单修改使它收敛了。对于具有Lipschits梯度的强凸函数,我们证明了它的全局性收敛,尽管不涉及线搜索,并且只有梯度值已使用。由于稳定步骤的数量被证明是有限的,因此稳定版本继承了BB方法的快速局部收敛性。广泛的数值实验表明,我们的稳定技术通常允许使用BB方法在更少的迭代中解决问题,甚至在后者失败时解决问题。

  • 关键词

无约束优化,谱算法,稳定性,收敛性分析。

  • AMS主题标题

65K05、90C06、90C30

  • 版权

版权:©全球科学出版社

  • 电子邮件地址

oleg.burdakov@liu.se(奥列格·布尔达科夫)

dyh@lsec.cc.ac.cn(于洪戴)

hna@cau.edu.cn(黄娜)

  • BibTex公司
  • RIS公司
  • TXT公司
@第{JCM-37-916条,作者={Burdakov,OlegDai,Yuhong and Huang,Na},title={稳定Barzilai-Borwein方法},journal={计算数学杂志},年份={2019},体积={37},数字={6},页数={916--936},抽象={

Barzilai-Borwein(BB)方法是求解大规模问题的一种流行且有效的工具无约束优化问题。其搜索方向与最陡的相同下降(柯西)法,但其步长规则不同。因此,它收敛比柯西方法快得多。BB方法的一个特点是它可以生成步骤太长,导致迭代距离解决方案太远。此外,它即使目标函数是强凸的,也可能不收敛。在本文中介绍了稳定技术。它包括限定每个一对连续迭代,这通常允许减少BB迭代的次数。当BB方法不收敛时,我们对该方法的简单修改使它收敛了。对于具有Lipschits梯度的强凸函数,我们证明了它的全局性收敛,尽管不涉及线搜索,并且只有梯度值已使用。由于稳定步骤的数量被证明是有限的,因此稳定版本继承了BB方法的快速局部收敛性。广泛的数值实验表明,我们的稳定技术通常允许使用BB方法在更少的迭代中解决问题,甚至在后者失败时解决问题。

},issn={1991-7139},doi={https://doi.org/10.4208/jcm.1911-m2019-0171},url={http://global-sci.org/intro/article_detail/jcm/13383.html}}
TY-JOUR公司T1-稳定Barzilai-Borwein方法澳大利亚奥列格·布尔达科夫AU-戴,余红AU-黄,NaJO-计算数学杂志VL-6SP-916型EP-9362019年上半年DA-2019/11序号-37做-http://doi.org/10.4208/jcm.1911-m2019-0171UR-(欧元)https://global-sci.org/intro/article_detail/jcm/13383.htmlKW-无约束优化,谱算法,稳定性,收敛性分析。AB公司-

Barzilai-Borwein(BB)方法是求解大规模问题的一种流行且有效的工具无约束优化问题。其搜索方向与最陡的相同下降(柯西)法,但其步长规则不同。因此,它收敛比柯西方法快得多。BB方法的一个特点是它可以生成步骤太长,导致迭代距离解决方案太远。此外,它即使目标函数是强凸的,也可能不收敛。在本文中介绍了稳定技术。它包括限定每个一对连续迭代,这通常允许减少BB迭代的次数。当BB方法不收敛时,我们对该方法的简单修改使它收敛了。对于具有Lipschits梯度的强凸函数,我们证明了它的全局性收敛,尽管不涉及线搜索,并且只有梯度值已使用。由于稳定步骤的数量被证明是有限的,因此稳定版本继承了BB方法的快速局部收敛性。广泛的数值实验表明,我们的稳定技术通常允许使用BB方法在更少的迭代中解决问题,甚至在后者失败时解决问题。

Oleg Burdakov、Yuhong Dai和Na Huang。(2019). 稳定Barzilai-Borwein方法。计算数学杂志.37(6).916-936.doi:10.4208/jcm.1911-m2019-0171
复制到剪贴板
引文已复制到剪贴板