×

阿达格勒

swMATH标识: 22202
软件作者: 杜奇,约翰;哈桑,埃拉德;歌手,约兰
说明: 自适应梯度算法;在线学习和随机优化的自适应次梯度方法。我们提出了一个新的亚梯度方法家族,动态地结合在早期迭代中观察到的数据的几何知识,以执行更具信息量的基于梯度的学习。隐喻地说,这种改编让我们能够在大海捞针中找到非常有预见性但很少见到的特征。我们的范例来源于随机优化和在线学习的最新进展,它们利用最近的函数来控制算法的梯度步长。我们描述并分析了一种自适应修改近端函数的装置,该装置大大简化了学习速率的设置,并产生了后悔保证,其效果与事后可选择的最佳近端函数一样好。我们给出了几种求解经验风险最小化问题的有效算法。我们实验研究了我们的理论分析,并表明自适应次梯度方法优于最新的,但非自适应的,次梯度算法。
主页: http://www.jmlr.org/papers/volume12/duchi11a/duchi11a.pdf
关键词: 次梯度法;适应性;在线学习;随机凸优化
相关软件: 亚当;RMSprop公司;阿达达三角洲;图像网;传奇;亚历克斯内特;张量流;火把;PRMLT公司;CIFAR公司;MNIST公司;L-BFGS;达奇;电子状态学习;github;新元-QN;西雅娜;LIBSVM库;煤油;DiffSharp公司
参考文献: 186种出版物
全部的 前5名

511位作者引用

5 文,再文
4 克拉默,科比
4 杜奇,约翰·C。
米尔扎勒克,安德烈
奥拉博纳,弗朗西斯科
杨海昭
袁雅香
2 巴拉卡特,阿纳斯
2 比安奇,帕斯卡
2 普拉蒂克,乔达里
2 柯蒂斯,弗兰克E。
2 费德基夫,罗纳德P。
2 顾一琪
2 郭天德
2 哈格海特,伊桑
2 哈桑,埃拉德
2 胡,江
2 胡耀华
2 伊都卡,Hideaki
2 乔丹,迈克尔·欧文
2 胡恩斯,鲁本
2 卡尼亚达基斯,乔治·埃姆
2 拉罗谢尔,雨果
2 李在红
2 雷丽华
2 刘海亮
2 马丁内斯,安娜·M。
2 莫罗什科,爱德华
2 阮,林M。
2 Nocedal,豪尔赫
2 欧伯曼,亚当M。
2 欧舍,斯坦利·乔尔
2 帕尔,达维德
2 帕达洛斯,帕诺斯·M。
2 公园,胜浩
2 鲍威尔,爱德华·让·罗伯特
2 帕迪卡利斯,巴黎G。
2 潘,郑特。
2 鲁斯塔,弗雷德
2 阮峰
2 卢瑟托,拉尔斯
2 谢因伯格,卡蒂亚
2 索阿托,斯特凡诺
2 斯雷布罗,内森
2 孙,陶
2 徐阳阳
2 阎永贵
2 杨晓琪
2 俞佳丽郭伟
1 阿伯特,亚历山德罗
1 阿查布,马塞尔
1 乔治,阿多索格罗
1 阿加瓦尔,阿列赫
1 阿加瓦尔,纳曼
1 阿加瓦尔,查鲁C。
1 艾洛迪,爱德华多·M。
1 阿贾坎,哈娜
1 阿克伊尔迪兹,厄默德尼兹
1 阿马尔,海瑟姆·布
1 亚提基斯,亚历山大
1 阿什布鲁克,乔纳森
1 巴赫,弗朗西斯·R。
1 贝克里,艾曼纽
1 白金帅
1 巴尔达西,卡罗
1 包,帮
1 包,迈克尔
1 巴拉纽克,理查德G。
1 巴里奥,罗伯托
1 拜丁,位于ılım guneş
1 贝卡,阿里肯
1 贝尔托齐,安德烈·路易丝
1 贝斯科斯,亚历山德罗斯
1 胆结石,伊利亚斯
1 天哪,大卫·M。
1 博菲,尼古拉斯M。
1 博内蒂尼,西尔维亚
1 博格斯,克里斯蒂安
1 博图,莱昂
1 鲍查德,纪尧姆
1 布查德,克里斯托弗E。
1 布兰德曼,大卫·M。
1 卜玉恒
1 布林,布莱恩
1 伯克哈特,迈克尔·C。
1 伯德,理查德H。
1 蔡迪峰
1 卡尔伯格,凯文T。
1 卡莱尔,纪尧姆
1 岑世聪
1 尼科尔·塞萨·比安奇
1 查达,尼尔K。
1 蔡锦菊
1 查克拉达,斯里玛特。
1 张红玉
1 查斯,詹妮弗·图尔
1 陈景润
1 陈久妍
1 陈龙
1 陈宝安
…还有411位作者
全部的 前5名

引用78个系列

21 机器学习研究杂志
13 暹罗优化杂志
10 计算物理杂志
10 机器学习
8 神经计算
7 应用力学与工程中的计算机方法
6 暹罗科学计算杂志
5 数学规划。A系列。B系列
4 理论计算机科学
4 优化方法与软件
4 统计与计算
4 中国运筹学学会学报
信息科学
神经网络
全球最优化杂志
计算物理通信
暹罗影像科学杂志
2 统计年鉴
2 模拟中的数学与计算机
2 国际近似推理杂志
2 科学计算杂志
2 数值算法
2 欧洲运筹学杂志
2 计算统计与数据分析
2 计算优化及其应用
2 数学与人工智能年鉴
2 边界元工程分析
1 人工智能
1 计算机与数学及其应用
1 反问题
1 富兰克林学院学报
1 物理报告
1 计算数学
1 自动
1 微分方程杂志
1 最优化理论与应用杂志
1 运筹学数学
1 运筹学信函
1 计算数学杂志
1 优化
1 序贯分析
1 统计科学
1 计算机与运筹学
1 计算力学
1 矩阵分析与应用杂志
1 多维系统及信号处理
1 计算数学与数学物理
1 应用数学模型
1 统计计算与模拟杂志
1 暹罗评论
1 国际计算机视觉杂志
1 反问题与不适定问题杂志
1 通知杂志关于计算
1 数据挖掘与知识发现
1 计算地球科学
1 塞约尔。中欧运筹学杂志
1 工程计算方法档案
1 系统科学与复杂性杂志
1 国际小波,多分辨率和信息处理杂志
1 国际计算方法杂志
1 地中海数学杂志
1 统计力学杂志:理论与实验
1 优化信函
1 反问题与成像
1 电子统计杂志
1 数学地学
1 离散数学、算法与应用
1 数学规划计算
1 科学中国。信息科学
1 计算与图形统计杂志
1 SIAM/ASA不确定度量化杂志
1 数学科学研究
1 应用数学年鉴
1 计算数学基础
1 日本统计与数据科学杂志
1 暹罗数据科学数学杂志
1 采样理论,信号处理和数据分析
1 理工不动点理论与算法

按年份引用出版物