×

ConvS2S公司

swMATH ID: 26536
软件作者:
描述: ConvS2S:这是一个PyTorch版本的fairseq,一个Facebook AI Research的序列到序列学习工具包。这一重新实现的最初作者是谢尔盖·埃杜诺夫(Sergey Edunov)、迈尔·奥特(Myle Ott)和萨姆·格罗斯(Sam Gross)。《卷积序列到序列学习》(Convolutional Sequence to Sequence Learning)。流行的序列到序列学习方法通过递归神经网络将输入序列映射到可变长度的输出序列。我们介绍了一种完全基于卷积神经网络的体系结构。与递归模型相比,在训练过程中,所有元素的计算都可以完全并行化,并且优化更容易,因为非线性数是固定的,并且与输入长度无关。我们使用选通线性单元简化了梯度传播,并且我们为每个解码器层配备了一个单独的注意模块。我们在WMT’14 English-German和WMT’2014 English-French翻译方面,无论是在GPU还是CPU上,都以更快的数量级速度超过了Wu等人(2016)的深度LSTM设置的准确性。
主页: https://arxiv.org/abs/1705.03122
源代码:  https://github.com/pytorch/fairseq
依赖项: 费尔塞克·皮托奇
相关软件: 字节网;序号2Seq;开放式NMT;线虫属;Tensor2传感器;玛丽安;CytonMT公司;摩西
引用于: 0个文档