GELUs公司 swMATH ID: 36443 软件作者: 丹·亨德里克斯(Dan Hendrycks)、凯文·金佩尔(Kevin Gimpel) 描述: 高斯误差线性单位(GELU)。我们提出了高斯误差线性单元(GELU),这是一种高性能的神经网络激活函数。GELU激活函数是xΦ(x),其中Φ(x”)是标准高斯累积分布函数。GELU非线性通过其值对输入进行加权,而不是像ReLU中那样通过其符号对输入进行选通(x1x>0)。我们针对ReLU和ELU激活对GELU非线性进行了实证评估,并发现在所有考虑的计算机视觉、自然语言处理和语音任务中的性能改进。 主页: https://arxiv.org/abs/1606.08415 源代码: https://github.com/hendrycks/GELUs网址 关键词: 机器学习;arXiv_cs。LG公司;高斯误差线性单位;GELU公司;神经网络;激活函数 相关软件: 亚当;PyTorch公司;github;DeepONet(深度网络);AlexNet公司;ImageNet公司;L-BFGS公司;DGM公司;深XDE;PIN码NTK码;MIONet公司;科学Py;米什;掌中宽带;MNIST公司;TensorFlow公司;火炬差异;t-SNE公司;PySCF公司;张紧器2传感器 引用于: 19文件 标准条款 1出版物描述软件 年份 高斯误差线性单位(GELU)arXiv公司丹·亨德里克斯(Dan Hendrycks)、凯文·金佩尔(Kevin Gimpel) 2016 全部的 前5名60位作者引用 1 巴勃罗·阿里亚斯 1 阿齐兹内贾德,沙扬 1 扬·亨德里克·巴斯特克 1 安德烈亚·贝克。 1 尼古拉斯·伯廷 1 约阿金·坎波斯 1 查克拉波蒂,苏维克 1 西蒙·乔切蒂 1 希森·崔 1 达里奥·科西娅 1 阿德里安·科托伊斯 1 尼古拉·德莫 1 帕特里克·沃纳(Patrick Werner Dondl) 1 E、 渭南 1 汤姆·弗洛伊登伯格 1 吉尔·金什拉格 1 韩成吉 1 尼克·海伦科特 1 胡晓音 1 科迪·布莱恩·亨德曼 1 乌韦·伊本 1 焦安然 1 乔治·埃姆·卡尼亚达基斯 1 Jens Keim 1 金、金云 1 丹尼斯·科希曼(Dennis M.Kochmann)。 1 克拉齐奥斯,阿纳斯塔斯 1 Lee,Hyenoben先生 1 马修·莱文(Matthew E.Levine)。 1 林杰夫明 1 林,林 1 刘欣 1 鲁,鲁 1 马超 1 彼得·马斯 1 梅内盖蒂,劳拉 1 让·米歇尔·莫雷尔 1 恩加尤·谭瑜(Nganyu Tanyu)、德里克(Derick) 1 宁、建峰 1 布兰登·保尔森 1 安德烈亚斯·拉德马赫 1 克里斯蒂安·罗德 1 吉安路易吉·罗扎 1 安娜·施瓦兹 1 乔瓦尼·斯塔比尔 1 安德鲁·斯图尔特(Andrew M.Stuart)。 1 马修·斯图伯(Matthew D.Stuber)。 1 塔斯,尼哈尔·阿拉巴乔格鲁 1 Toh,Kim Chuan(金川) 1 塔帕斯·特里普拉 1 Michael A.Unser。 1 王超 1 王、陈瑜 1 马修·威廉(Matthew E.Wilhelm)。 1 吴磊 1 肖纳川 1 马吕斯·齐恩霍弗 1 张汉迪 1 周,费 1 朱敏 全部的 前5名14篇连载文章中引用 三 计算物理学杂志 2 应用力学与工程中的计算机方法 1 反问题 1 计算力学 1 全球优化杂志 1 SIAM优化杂志 1 莫拉维卡数学 1 欧洲力学杂志。A.固体 1 机器学习研究杂志(JMLR) 1 科学中国。数学 1 《科学与自然》Ciencias Exactas皇家科学院修订版。意甲:马特马斯。RACSAM公司 1 SIAM数据科学数学杂志 1 连续和离散模型的进展 1 美国数学学会通讯 全部的 前5名18个领域被引用 13 计算机科学(68至XX) 6 数值分析(65-XX) 三 偏微分方程(35-XX) 2 可变形固体力学(74-XX) 2 流体力学(76-XX) 2 运筹学、数学规划(90-XX) 1 组合数学(05-XX) 1 实函数(26年X月X日) 1 常微分方程(34-XX) 1 动力系统和遍历理论(37至XX) 1 差分方程和函数方程(39至XX) 1 近似和展开(41至XX) 1 功能分析(46倍X倍) 1 算子理论(47-XX) 1 变分法与最优控制;最优化(49至XX) 1 一般拓扑结构(54-XX) 1 量子理论(81-XX) 1 生物学和其他自然科学(92-XX) 按年份列出的引文