箭头
第37卷第1期
步长自适应的下降方向随机逼近算法

佐拉纳·卢扎宁,伊雷娜·斯托伊科夫斯卡&米莲娜·克雷索亚

J.公司。数学。,37(2019),第76-94页。

在线发布:2018-08

导出引文
  • 摘要

一种具有新的自适应步长的随机逼近(SA)算法提出了噪声环境下的无约束极小化问题。新的自适应步长方案使用固定数量的先前噪声函数值的有序统计作为接受好的步骤和拒绝坏的步骤的标准。该方案允许算法以更大的步幅前进,避免与$1/k$成比例的步幅更大的步骤将提高性能。采用新自适应方案的算法是定义为一般下降方向。建立了几乎确定的收敛性。这个在一组标准测试问题上测试了新算法的性能,并进行了比较使用相关算法。数值结果支持理论预期并验证算法的效率与选择的搜索方向和噪声水平无关。数字的还介绍了机器学习中出现的问题的结果。线性回归使用实际数据集考虑该问题。结果表明,所提出的算法表现出承诺。

  • AMS主题标题

90C15、62L20

  • 版权

版权:©全球科学出版社

  • 电子邮件地址

zorana@dmi.uns.ac.rs(佐拉纳·卢扎宁)

irenatra@pmf.ukim.mk(伊雷娜·斯托伊科夫斯卡)

milena.kresoja@dmi.uns.ac.rs(米莲娜·克雷索亚)

  • BibTex公司
  • RIS公司
  • TXT公司
@第{JCM-37-76条,作者={卢日宁、佐拉纳斯托伊科夫斯卡、伊雷纳和克雷索亚、米莱纳},title={步长自适应的下降方向随机逼近算法},journal={计算数学杂志},年份={2018年},体积={37},数字={1},页数={76--94},抽象={

一种具有新的自适应步长的随机逼近(SA)算法提出了噪声环境下的无约束极小化问题。新的自适应步长方案使用固定数量的先前噪声函数值的有序统计作为接受好的步骤和拒绝坏的步骤的标准。该方案允许算法采取更大的步骤,避免在预期的情况下采取与1/k$成比例的步骤更大的步骤将提高性能。采用新自适应方案的算法是定义为一般下降方向。建立了几乎确定的收敛性。这个在一组标准测试问题上测试了新算法的性能,并进行了比较使用相关算法。数值结果支持理论预期并验证算法的效率与选择的搜索方向和噪声水平无关。数字的还介绍了机器学习中出现的问题的结果。线性回归使用实际数据集考虑该问题。结果表明,所提出的算法表现出承诺。

},issn={1991-7139},doi={https://doi.org/10.4208/jcm.1710-m2017-0021},url={http://global-sci.org/intro/article_detail/jcm/12650.html}}
TY-JOUR公司具有自适应步长的T1-下降方向随机逼近算法AU-卢日宁,佐拉纳AU-斯托伊科夫斯卡,伊雷纳AU-克雷索亚,米莲娜JO-计算数学杂志VL-1型SP-76欧洲药典-942018年上半年日期-2018/08序号-37做-http://doi.org/10.4208/jcm.1710-m2017-0021UR-(欧元)https://global-sci.org/intro/article_detail/jcm/12650.htmlKW-无约束优化、随机优化、随机近似、噪声函数、自适应步长、下降方向、线性回归模型。AB公司-

一种新的自适应步长的随机逼近算法提出了噪声环境下的无约束极小化问题。新的自适应步长方案使用固定数量的先前噪声函数值的有序统计作为接受好的步骤和拒绝坏的步骤的标准。该方案允许算法以更大的步幅前进,避免与$1/k$成比例的步幅更大的步骤将提高性能。采用新自适应方案的算法是定义为一般下降方向。建立了几乎确定的收敛性。这个在一组标准测试问题上测试了新算法的性能,并进行了比较使用相关算法。数值结果支持理论预期并验证算法的效率与选择的搜索方向和噪声水平无关。数字的还介绍了机器学习中出现的问题的结果。线性回归使用实际数据集考虑该问题。结果表明,所提出的算法表现出承诺。

佐拉娜·卢日宁、伊雷娜·斯托伊科夫斯卡和米莲娜·克雷索亚。(2020). 具有自适应步长的下降方向随机逼近算法。计算数学杂志.37(1).76-94.doi:10.4208/jcm.1710-m2017-0021
复制到剪贴板
引文已复制到剪贴板