大量选择，大量任务（MaChAmp）

本网站介绍了MaChAmp，并提供了使用MaChAmp的代码和论文的概述。我们很自豪地宣布，MaChAmp已收到EACL 2021杰出论文奖（演示曲目）！

摘要

近年来，迁移学习，尤其是将多任务学习与预训练的语境嵌入和微调相结合的方法，极大地推动了自然语言处理领域的发展。在本文中，我们介绍了MaChAmp，这是一个用于在多任务设置中轻松微调上下文化嵌入的工具包。MaChAmp的优点是其灵活的配置选项，以及在统一的工具包中支持各种自然语言处理任务，从文本分类和序列标记到依赖解析、屏蔽语言建模和文本生成。

• pdf格式
• 带有大量README的代码
• 教程视频
• 预处理模型
• 海报
• 幻灯片

贡献者

罗布·范德古特	艾哈迈特·尤·斯图	阿兰·兰波尼	易卜拉欣·沙拉夫	芭芭拉·普朗克

致谢

这项研究得到了亚马逊研究奖，Multi3代中的STSM成本行动（CA18231），由COSBI，拨款9063-00077B（丹麦弗里斯Forskningsfond）和Nvidia公司赞助Titan GPU。我们感谢NLPL实验室以及ITU的HPC团队此工作中使用的资源。

使用MaChAmp的论文

版本0.1

• 作为序列标记的生物医学事件提取（EMNLP 2020）
• 即使在BERT时代，字符级表示也能改进基于DRS的语义分析（EMNLP 2020）
• DaN+：丹麦嵌套命名实体与词汇规范化（科林2020）

版本0.2

• Frisian-Datch口语、代码交换数据的注释和解析挑战（适配器NLP 2021）
• 代码交换数据的词汇规范化及其对POS标记的影响（平均2021年）
• 从蒙蔽语言建模到翻译：非英语辅助任务提高零距离口语理解（NAACL 2021）
• 工作公告中与私人相关实体的识别（大力达2021号）
• 英语网络文本的跨语言跨域嵌套命名实体评价（ACL 2021调查结果）
• 体裁对跨语言依赖性分析的弱监督（EMNLP 2021）

引用

@进行中{van-der-goot-etal-2021-块状，title=“大量选择，大量任务（{M}a{C}h{a}mp）：{NLP}中的多任务学习工具包”，author={van der Goot、Rob和{\“U}st{\”U}n、Ahmet和兰波尼、艾伦和沙拉夫、易卜拉欣和芭芭拉·普朗克，booktitle=“计算语言学协会欧洲分会第十六届会议记录：系统演示”，月=四月，年=“2021”，address=“在线”，publisher=“计算语言学协会”，url=“https://www.aclweb.org/antology/2021.eacl-demos.22”，页码=“176-197”，}