阿达格勒

自适应梯度算法;在线学习和随机优化的自适应次梯度方法。我们提出了一个新的亚梯度方法家族,动态地结合在早期迭代中观察到的数据的几何知识,以执行更具信息量的基于梯度的学习。隐喻地说,这种改编让我们能够在大海捞针中找到非常有预见性但很少见到的特征。我们的范例来源于随机优化和在线学习的最新进展,它们利用最近的函数来控制算法的梯度步长。我们描述并分析了一种自适应修改近端函数的装置,该装置大大简化了学习速率的设置,并产生了后悔保证,其效果与事后可选择的最佳近端函数一样好。我们给出了几种求解经验风险最小化问题的有效算法。我们实验研究了我们的理论分析,并表明自适应次梯度方法优于最新的,但非自适应的,次梯度算法。


zbMATH中的参考文献(参考文献141篇,1标准件)

显示第1到第20个结果,共141个。
按年份排序(引用)

1 2 ... 6 7 8 下一个

  1. 贾,宜春;郑宗宪:右删失下分位数回归的深度学习:深度量子理论(2022)
  2. 巴拉卡特,阿纳斯;Bianchi,Pascal:非凸随机优化ADAM算法的收敛性和动力学行为(2021)
  3. 巴拉卡特,阿纳斯;比安奇,帕斯卡;哈切姆,瓦利德;Schechtman,Sholom:随机优化与动量:收敛,波动和陷阱避免(2021)
  4. 德洛埃拉,耶稣会。;黑线鳕,杰米;妈妈,安娜;Needell,Deanna:优化与信号处理中的数据驱动算法选择与调整(2021)
  5. 杜奇,约翰·C。;格林,彼得W。;Namkoong,Hongseok:稳健优化的统计:广义经验似然法(2021)
  6. 杜奇,约翰·C。;阮峰:随机最优化中的渐近最优性(2021)
  7. 杜鲁塞,瓦伦丁;施密特,杰里米;Leok,Melvin:自适应哈密顿变分积分器及其在辛加速优化中的应用(2021)
  8. 范建清;马聪;钟一桥:深度学习综述(2021)
  9. 弗莱,查尔斯G。;西蒙,詹姆斯;瓦迪亚,尼哈S。;利杰拉德,安德鲁;迪维斯,迈克尔R。;Bouchard,Kristofer E.:临界点发现方法揭示了深层网络损耗的梯度平坦区域(2021年)
  10. Ghods,阿利雷扎;Cook,Diane J.:所有分类器都可以采用的深层网络技术调查(2021)
  11. 哈格海特,伊桑;贝卡,阿里·坎;马登西,埃尔多安;Juanes,Ruben:一个基于非局部物理的使用动态微分算子的深度学习框架(2021)
  12. 哈格海特,伊桑;瑞西,马齐亚尔;穆尔,阿德里安;戈麦斯,赫克托;Juanes,Ruben:固体力学中反演和替代建模的物理信息深度学习框架(2021)
  13. 何小龙;齐志、何其志;Chen,Jiun Shyan:物理约束数据驱动非线性材料建模的深度自动编码器(2021)
  14. 黄俊浩;孙伟泽;黄磊:多目标稀疏神经网络的联合结构与参数优化(2021)
  15. 卡夫卡,多米尼克;Wilke,Daniel N.:通过使用线搜索定位随机非负相关梯度投影点来自适应地解决学习速率(2021)
  16. 凯恩,开尔文;冯,吴三美;Ruthotto,Lars:PNKH-B:大规模有界约束优化的投影牛顿-克雷洛夫方法(2021)
  17. 刘、杨;罗斯福:不精确黑森信息下牛顿MR的收敛性(2021)
  18. 马,陈欣;贾吉,马丁;柯蒂斯,弗兰克E。;斯雷布罗,内森;Takáč,Martin:一个用于结构化机器学习的加速通信有效原始-对偶优化框架(2021)
  19. 首尔公园;Rysz、Maciej;很好,凯特琳。;Pardalos,Panos M.:使用深余弦相似性神经网络在GPS拒绝环境中基于合成孔径雷达图像的定位(2021)
  20. Edouard Pauwels:非凸优化中的增量无替换抽样(2021)

1 2 ... 6 7 8 下一个