GLoMo公司 swMATH ID: 44676 软件作者: 杨志林(Zhilin Yang)、赵杰克(Jake Zhao)、布万·辛格拉(Bhuwan Dhingra)、何开明(Kaiming He 描述: GLoMo:可转移关系图的无监督学习。现代深度迁移学习方法主要关注从一个任务中学习可转移到其他任务的通用特征向量,例如语言中的单词嵌入和视觉中的预处理卷积特征。然而,这些方法通常传递一元特征,并且在很大程度上忽略了更结构化的图形表示。这项工作探索了从大规模未标记数据中学习捕获成对数据单元(例如单词或像素)之间依赖关系的通用潜在关系图的可能性,并将这些图传输到下游任务。我们提出的迁移学习框架提高了各种任务的性能,包括问答、自然语言推理、情感分析和图像分类。我们还表明,学习到的图足够通用,可以转移到未训练图的不同嵌入(包括GloVe嵌入、ELMo嵌入和任务特定的RNN隐藏单元)或无嵌入单元(如图像像素)。 主页: https://proceedings.neurips.cc/paper_files/paper/2018/file/5dbc8390f17e019d300d5a162c3ce3bc-paper.pdf 源代码: https://github.com/kimiyoung/glomo 依赖项: 蟒蛇 相关软件: BERT(误码率);单词2vec;芬伯特;事件2分钟;KGPT公司;AlexNet公司;图2序列;GPT-3级;私人电话;通用控制中心;Tensor2传感器;SemSUM公司;Linformer公司;JGibbLDA公司;凯特;图形IE;美国海军陆战队;PyTorch公司;DIG公司;数字网络 引用于: 2文件 全部的 前5名12位作者引用 1 斯特凡诺·布隆伯格。 1 尼克·菲鲁泽 1 塞巴斯蒂安·弗伦内尔哈格 1 高汉宁 1 郭晓杰 1 阿德里亚诺·科希亚马 1 李树成 1 朗,波 1 裴健 1 沈凯 1 菲利普·特里文 1 吴凌飞 2篇连载文章中引用 1 定量金融学 1 机器学习的基础和趋势 在2个字段中引用 2 计算机科学(68至XX) 1 博弈论、经济学、金融和其他社会和行为科学(91-XX) 按年份列出的引文