阿达格勒

ADAGRAD:自适应梯度算法;用于在线学习和随机优化的自适应次梯度方法。我们提出了一个新的亚梯度方法家族,动态地结合在早期迭代中观察到的数据的几何知识,以执行更具信息量的基于梯度的学习。隐喻地说,这种改编让我们能够在大海捞针中找到非常有预见性但很少见到的特征。我们的范例来源于随机优化和在线学习的最新进展,它们利用最近的函数来控制算法的梯度步长。我们描述并分析了一种自适应修改近端函数的装置,该装置大大简化了学习速率的设置,并产生了后悔保证,其效果与事后可选择的最佳近端函数一样好。我们给出了几种求解经验风险最小化问题的有效算法。我们实验研究了我们的理论分析,并表明自适应次梯度方法优于最新的,但非自适应的,次梯度算法。


zbMATH中的参考文献(参考,1标准件)

显示第1到第20个结果,共97个。
按年份排序(引用)
  1. Aggarwal,Charu C.:机器学习的线性代数与优化。教材(2020)
  2. Akyildiz,厄默德尼兹;Crisan,Dan;Míguez,Joaqín:随机无梯度非凸优化的并行序贯蒙特卡罗(2020)
  3. Boffi,Nicholas M.;Slotine,Jean-Jacques E.:分布式随机梯度的连续时间分析(2020)
  4. Burkhart,Michael C.;Brandman,David M.;Franco,Brian;Hochberg,Leigh R.;Harrison,Matthew T.:非线性和非高斯观测模型下贝叶斯滤波的判别式卡尔曼滤波器(2020)
  5. Erway,Jennifer B.;Griffin,Joshua;Marcia,Roummel F.;Omheni,Riadh:用于训练响应的信赖域算法:使用不确定Hessian近似的机器学习方法(2020)
  6. 江波;林天一;张树忠:加速复合凸优化的统一自适应张量近似格式(2020)
  7. Joulani,Pooria;György,András;Szepesvári,Csaba:自适应(非)凸优化的模块化分析:乐观主义、复合目标、方差缩减和变分界(2020)
  8. Kissas,Georgios;Yang,Yibo;Hwang,Eileen;Witschey,Walter R.;Detre,John A.;Perdikaris,Paris:心血管血流建模中的机器学习:使用物理信息神经网络从无创4D流量MRI数据预测动脉血压(2020年)
  9. Kotłowski,Wojciech:尺度不变无约束在线学习(2020)
  10. Kylasa,Sudhir;Fang,Chih Hao;Roosta,Fred;Grama,Ananth:机器学习的并行优化技术(2020)
  11. 雷丽华;乔丹,迈克尔I.:基于随机梯度优化的自适应性(2020)
  12. Liu,Hailiang;Markowich,Peter:深度神经网络的选择动力学(2020)
  13. 宁汉文;张嘉明;冯婷婷;朱丽晶;田天海:基于控制的高维在线学习算法(2020)
  14. Ogal'tsov,A.V.;Tyurin,A.I.:随机优化问题中的启发式自适应快速梯度法(2020)
  15. Palagi,Laura;Seccia,Ruggiero:用于训练深层神经网络的块层分解方案(2020)
  16. 随机分析法(Paquette,2020)
  17. Rius Sorolla,G.;Maheut,J.;Coronado Hernandez,Jairo R.;Garcia Sabater,J.P.:通用材料和运营规划模型的拉格朗日松弛(2020年)
  18. Ruehle,Fabian:数据科学在弦理论中的应用(2020)
  19. Wang,Yi;Zhang,Hao;Chae,Kum Ju;Choi,Younhee;Jin,Gong Yong;Ko,Seok Bum:用于改进CT肺结节分类的新型卷积神经网络结构(2020年)
  20. 叶立峰;贝斯科斯,亚历山德罗斯;德奥里奥,玛丽亚;郝洁:蒙特卡罗坐标上升变分推断(2020)