基于对比预训练和精细调整的少快照意图检测

印着张建国,Trung Bui公司,Seunghyun Yoon先生,向晨,刘志伟,夏聪颖,全红庄,Walter Chang（沃尔特·张）,菲利普·俞（Philip Yu）

摘要
在这项工作中，我们重点关注一个更具挑战性的少数意图检测场景，其中许多意图都是细粒度的，并且语义相似。通过对比预训练和微调，我们提出了一种简单而有效的少快照意图检测方案。具体来说，我们首先对收集到的意图数据集进行自我监督的对比预训练，它隐式学习在不使用任何标签的情况下区分语义相似的话语。然后，我们进行少量意图检测和有监督的对比学习，这明确地将来自同一意图的话语拉近，并将不同意图的话语推得更远。实验结果表明，在五镜头和十镜头设置下，我们提出的方法在三个具有挑战性的意图检测数据集上取得了最先进的性能。
选集ID：
2021.emnlp-main.144年
体积：
2021年自然语言处理实证方法会议记录
月份：
十一月
年份：
2021
地址：
多米尼加共和国Online和Punta Cana
编辑：
玛丽·弗朗辛·莫恩斯,黄宣景,露西娅·斯佩西亚,斯科特·文涛（Scott Wen-tau Yih）
地点：
EMNLP公司
SIG公司：
出版商：
计算语言学协会
注：
页：
1906–1912
语言：
网址：
https://aclantology.org/2021.emnlp-main.144
DOI（操作界面）：
10.18653/v1/2021.emnlp-main.144
比比键：
引用（ACL）：
张建国、Trung Bui、Seunghyun Yoon、Chen、Liu Zhiwei、Xia Congying、Quan Hung Tran、Walter Chang和Philip Yu。2021基于对比预训练和精细调整的少快照意图检测.英寸2021年自然语言处理实证方法会议记录，第1906-1912页，在线和多米尼加共和国卡纳角。计算语言学协会。
引用（非正式）：
基于对比预训练和精细调整的少快照意图检测（Zhang等人，EMNLP 2021）
复制引文：
PDF格式：
https://aclantology.org/2021.emnlp-main.144.pdf
视频：
 https://aclantology.org/2021.emnlp-main.144.mp4
代码
jianguoz/Few-Shot意向检测+附加社区代码
数据
银行77, 硬件64
PDF格式 引用 搜索 代码 视频