基于双句子编码器的高效意图检测
计算与语言
2020-03-11 v1
摘要
在新领域构建对话系统并增加功能，需要能在低数据条件下（即少样本设置中）工作的资源高效模型。受这些需求驱动，我们引入了由预训练双句子编码器（如 USE 和 ConveRT）支撑的意图检测方法。我们展示了所提意图检测器的有用性和广泛适用性，表明：1）在三个不同的意图检测数据集上，它们优于基于微调完整 BERT-Large 模型或将 BERT 作为固定黑盒编码器的意图检测器；2）增益在少样本设置中（即每意图仅 10 或 30 个标注样本）尤为显著；3）我们的意图检测器可在单个 CPU 上数分钟内训练完成；4）它们在不同超参数设置下是稳定的。为促进并普及聚焦于意图检测的研究，我们发布了代码，以及一个包含 77 个意图上 13,083 个标注样本的新且具有挑战性的单领域意图检测数据集。
引用
@article{arxiv.2003.04807,
title = {Efficient Intent Detection with Dual Sentence Encoders},
author = {Iñigo Casanueva and Tadas Temčinas and Daniela Gerz and Matthew Henderson and Ivan Vulić},
journal= {arXiv preprint arXiv:2003.04807},
year = {2020}
}