阿达德尔塔 swMATH ID: 39429 软件作者: 马修·泽勒 描述: ADADELTA:一种自适应学习率方法。我们提出了一种新的用于梯度下降的全维学习率方法,称为ADADELTA。该方法仅使用一阶信息随时间动态调整,除常规随机梯度下降法外,计算开销最小。该方法不需要手动调整学习速率,并且对噪声梯度信息、不同的模型架构选择、各种数据模式和超参数选择具有鲁棒性。与其他方法相比,我们在分布式集群环境中使用单台机器和大规模语音数据集进行MNIST数字分类任务时取得了令人满意的结果。 主页: https://paperswithcode.com/paper/adadelta-an-adaptive-learning-rate-method 相关软件: 亚当;阿达格拉德;RMS公司;ImageNet公司;TensorFlow公司;AlexNet公司;PyTorch公司;PRMLT公司;达奇;MNIST公司;CIFAR公司;L-BFGS公司;github;ADVI公司;凯拉斯;张紧器2传感器;传奇;DiffSharp(差异锐化);西雅娜;ElemStatLearn(电子状态学习) 引用于: 122文件 全部的 前5名349位作者引用 7 大卫·约翰·诺特 5 迈克尔·斯坦利·史密斯 4 鲁本·洛艾莎·玛雅 三 罗纳德·费德昆(Ronald P.Fedkiw)。 三 越南Tran 三 严,梁 三 周涛 2 伊利亚斯·比利奥尼斯 2 莱昂·博图 2 伊夫里姆·埃尔辛·康格尔 2 Vojtech公司Kejzlar 2 李在洪 2 刘京晨 2 塔布拉塔·迈蒂 2 Trung Nguyen-Thoi 2 Victor M.H.翁。 2 斯坦利·乔尔·奥斯尔 2 Phoha、Shashi P。 2 阿索克·库马尔·雷 2 弗雷德·罗斯塔 2 萨博(Samer jun)。 2 唐雪英 2 Tripathy,罗希特·K。 2 Tam T.Truong。 2 王宝 2 王志 2 徐东坡 2 Ying、Zhiliang 2 朱明辉 1 塔莱尔·阿卜杜塞勒姆 1 阿德耶米·阿德约耶。 1 布兰登·D·阿莫斯。 1 索鲁什·阿拉米德 1 E.O.阿尔汉格尔斯卡亚。 1 啊,尼哈特 1 俄克拉荷马州艾多杜市 1 米哈伊尔·巴本科 1 白金帅 1 阿迪蒂亚·巴鲁 1 鲍,迈克尔 1 理查德·巴拉纽克。 1 法尔津·巴雷卡特 1 沙姆苏尔哈克·巴西尔 1 安德烈·里卡多·贝洛托·达席尔瓦 1 阿尔韦托·本马德 1 比勒尔·本赛德 1 费利佩·贝尔纳多 1 伦纳德·贝拉达 1 安德烈·路易斯·贝尔托齐 1 什里吉塔·巴塔查里亚 1 阿尔伯特·比费特 1 Dan S.Bolintinanu。 1 杰弗里·博尔米尔 1 马尔西奥·博尔赫斯。 1 阿卜杜塞兰·布泽杜姆 1 克莱尔·博伊尔 1 大卫·M·布兰德曼。 1 弗拉迪斯拉夫·布兰尼茨基 1 皮埃尔·布拉斯 1 迈克尔·伯克哈特(Michael C.Burkhart)。 1 Joseph T.Chang。 1 陈景润 1 陈世毅 1 陈,汤姆 1 陈新源 1 陈瑜 1 朱莉安·钟(Julianne M.Chung)。 1 马提亚斯·钟 1 约翰·比杰尔·巴赫·克劳森 1 科尔特斯·门多萨(Jorge M.Cortés-Mendoza)。 1 Frank E.柯蒂斯。 1 彼得·达纳赫。 1 Jesús A.De Loera。 1 德苏巴扬 1 罗纳尔多·迪亚斯 1 Steven X·丁。 1 雷米·丁维尔 1 Do,Dieu T.T。 1 是的,宣安 1 布伦丹·多诺霍 1 Alireza Doostan 1 克里斯托弗·德罗万迪(Christopher C.Drovandi)。 1 杜强 1 Jennifer B.Erway。 1 穆罕默德·雷扎·埃斯拉希 1 方志浩 1 梅丽娅·冯 1 冯文英 1 冯向南 1 弗赖斯蒂尔,日耳曼 1 斯蒂芬妮·福雷斯特 1 布赖恩·佛朗哥 1 高俊斌 1 高,袁 1 马克西姆·加佐 1 基特,卡努 1 耿正林 1 理查德·H·格拉赫。 1 萨姆比特·加代 1 Gilson Antonio Giraldi ……还有249位作者 全部的 前5名69篇连载文章中引用 9 神经网络 7 计算物理杂志 7 机器学习研究杂志(JMLR) 6 计算与图形统计杂志 6 统计与计算 5 应用力学与工程中的计算机方法 4 计算物理学中的通信 三 机器学习 三 神经计算 2 信息科学 2 计算力学 2 科学计算杂志 2 计算统计学 2 统计计算与模拟杂志 2 计算优化与应用 2 国际计算方法杂志 2 应用统计学年鉴 2 中国运筹学会学报 1 美国统计学家 1 计算机与数学及其应用 1 计算机物理通信 1 反问题 1 流体力学杂志 1 物理报告 1 心理测量学 1 计算数学 1 生物计量学 1 英国数学与统计心理学杂志 1 国际统计评论 1 计算与应用数学杂志 1 计量经济学杂志 1 模拟中的数学和计算机 1 编程和计算机软件 1 计算机辅助几何设计 1 计算数学杂志 1 统计科学 1 计算机与运筹学 1 国际近似推理杂志 1 SIAM矩阵分析与应用杂志 1 全球优化杂志 1 物理学年报 1 应用数学建模 1 欧洲运筹学杂志 1 SIAM审查 1 随机过程及其应用 1 计算统计学与数据分析 1 SIAM优化杂志 1 数学科学杂志(纽约) 1 人工智能研究杂志 1 数学与人工智能年鉴 1 边界元工程分析 1 优化方法和软件 1 数据挖掘与知识发现 1 跨学科信息科学(IIS) 1 计算地球科学 1 工程和信息科学中的概率 1 斯堪的纳维亚精算杂志 1 工程计算方法档案 1 计算管理科学 1 国际数值分析与建模杂志 1 SIAM成像科学杂志 1 机器学习的基础和趋势 1 控制科学与工程杂志 1 数学规划计算 1 商业与经济统计杂志 1 SIAM/ASA不确定性量化期刊 1 数学科学研究 1 应用数学年鉴 1 计算的数学基础 全部的 前5名23个字段中引用 63 计算机科学(68至XX) 41 统计学(62-XX) 40 数值分析(65-XX) 33 运筹学、数学规划(90-XX) 9 可变形固体力学(74-XX) 6 偏微分方程(35-XX) 6 概率论与随机过程(60-XX) 4 变分法与最优控制;最优化(49至XX) 4 博弈论、经济学、金融学以及其他社会和行为科学(91-XX) 三 流体力学(76-XX) 三 量子理论(81-XX) 2 总体主题;集合(00-XX) 2 常微分方程(34-XX) 2 动力系统和遍历理论(37至XX) 2 天文学和天体物理学(85-XX) 2 生物学和其他自然科学(92-XX) 2 系统论;控制(93至XX) 2 信息与通信理论、电路(94-XX) 1 线性代数和多线性代数;矩阵理论(15-XX) 1 欧几里得空间的调和分析(42至XX) 1 代数拓扑(55-XX) 1 统计力学,物质结构(82-XX) 1 相对论和引力理论(83至XX) 按年份列出的引文