阿达格勒

自适应梯度算法;在线学习和随机优化的自适应次梯度方法。我们提出了一个新的亚梯度方法家族,动态地结合在早期迭代中观察到的数据的几何知识,以执行更具信息量的基于梯度的学习。隐喻地说,这种改编让我们能够在大海捞针中找到非常有预见性但很少见到的特征。我们的范例来源于随机优化和在线学习的最新进展,它们利用最近的函数来控制算法的梯度步长。我们描述并分析了一种自适应修改近端函数的装置,该装置大大简化了学习速率的设置,并产生了后悔保证,其效果与事后可选择的最佳近端函数一样好。我们给出了几种求解经验风险最小化问题的有效算法。我们实验研究了我们的理论分析,并表明自适应次梯度方法优于最新的,但非自适应的,次梯度算法。


zbMATH中的参考文献(参考文献166篇,1标准件)

显示166个结果中的1到20个。
按年份排序(引用)

1 2 ... 7 8 9 下一个

  1. 查达,尼尔K。;汤欣:非线性背景下集合Kalman反演的收敛加速(2022)
  2. 克劳森,约翰比耶尔巴赫;李红燕:大数据驱动的订单递阶模型:机器学习的应用(2022)
  3. 崔涛;王子明;向学双:求解Helmholtz方程的一种有效的平面波激活函数神经网络方法(2022)
  4. 高田,高石;弘中,智子;风筝,Wataru;Foster,Adam:基于无偏MLMC随机梯度的贝叶斯实验设计优化(2022)
  5. 黄山;朱仁川;张宏宇;王辉;余云:近似自由表面格林函数的机器学习及其在波体相互作用中的应用(2022)
  6. 贾,宜春;郑宗宪:右删失下分位数回归的深度学习:深度量子理论(2022)
  7. 金世焕;宋启凡;梁法明:具有自适应漂移的随机梯度Langevin动力学(2022)
  8. 柯、庞伟;斯坦哈特,雅各布;梁,珀西:更强的数据中毒攻击破坏了数据净化防御(2022)
  9. 萨尔瓦多莫尔;帕拉多,维森特:信号分割的增广拉格朗日模型(2022)
  10. Ollier,Edouard:使用惩罚似然快速选择非线性混合效应模型(2022)
  11. 普芬施密特,卡尔森;古普塔,普利塔;哈登霍斯特,比约恩;Hüllermeier,Eyke:学习上下文相关选择函数(2022)
  12. 沙洛克,路易;Kantas,Nikolas:部分观测随机对流扩散方程的联合在线参数估计和最优传感器布置(2022)
  13. 川定,Quoc;范恩浩。;Phan,Dzung T。;Nguyen,Lam M:复合非凸优化的混合随机优化框架(2022)
  14. 郑宇晨;谢玉佳;李伊彬;德哈尼安,阿明;Serban,Nicoleta:大规模优化的块对偶分解并行次梯度算法(2022)
  15. 约拿单阿施布洛克;Powell,Alexander M.:随机马尔可夫梯度下降和训练低位神经网络(2021)
  16. 巴拉卡特,阿纳斯;Bianchi,Pascal:非凸随机优化ADAM算法的收敛性和动力学行为(2021)
  17. 巴拉卡特,阿纳斯;比安奇,帕斯卡;哈切姆,瓦利德;Schechtman,Sholom:随机优化与动量:收敛,波动和陷阱避免(2021)
  18. 德哈尼,哈米德雷扎;Zilian,Andreas:线性椭圆偏微分方程近似解的混合MGA-MSGD神经网络训练方法(2021)
  19. 德洛埃拉,耶稣会。;黑线鳕,杰米;妈妈,安娜;Needell,Deanna:优化与信号处理中的数据驱动算法选择与调整(2021)
  20. 丁,伙计;汉,聪颖;郭天德:背包问题的高泛化性能结构化自我注意模型(2021)

1 2 ... 7 8 9 下一个