×

GLoMo公司

swMATH ID: 44676
软件作者: 杨志林(Zhilin Yang)、赵杰克(Jake Zhao)、布万·辛格拉(Bhuwan Dhingra)、何开明(Kaiming He
描述: GLoMo:可转移关系图的无监督学习。现代深度迁移学习方法主要关注从一个任务中学习可转移到其他任务的通用特征向量,例如语言中的单词嵌入和视觉中的预处理卷积特征。然而,这些方法通常传递一元特征,并且在很大程度上忽略了更结构化的图形表示。这项工作探索了从大规模未标记数据中学习捕获成对数据单元(例如单词或像素)之间依赖关系的通用潜在关系图的可能性,并将这些图传输到下游任务。我们提出的迁移学习框架提高了各种任务的性能,包括问答、自然语言推理、情感分析和图像分类。我们还表明,学习到的图足够通用,可以转移到未训练图的不同嵌入(包括GloVe嵌入、ELMo嵌入和任务特定的RNN隐藏单元)或无嵌入单元(如图像像素)。
主页: https://proceedings.neurips.cc/paper_files/paper/2018/file/5dbc8390f17e019d300d5a162c3ce3bc-paper.pdf
源代码:  https://github.com/kimiyoung/glomo
依赖项: 蟒蛇
相关软件: BERT(误码率);单词2vec;芬伯特;事件2分钟;KGPT公司;AlexNet公司;图2序列;GPT-3级;私人电话;通用控制中心;Tensor2传感器;SemSUM公司;Linformer公司;JGibbLDA公司;凯特;图形IE;美国海军陆战队;PyTorch公司;DIG公司;数字网络
引用于: 2文件

按年份列出的引文