基于少量样本学习意图分类与槽位标注
计算与语言
2020-04-24 v1
摘要
意图分类（IC）与槽填充（SF）是大多数面向目标对话系统的核心组件。当前的 IC/SF 模型在每类训练样本数量较少时表现不佳。我们提出了一种新的少样本学习任务——少样本 IC/SF，以研究并提升 IC 与 SF 模型在训练时未见过类别、极低资源场景下的性能。我们通过为三个公开 IC/SF 数据集 ATIS、TOP 和 Snips 定义少样本划分，建立了少样本 IC/SF 基准。我们表明，两种流行的少样本学习算法——模型无关元学习（MAML）与原型网络（prototypical networks）——在该基准上优于微调基线。原型网络在 ATIS 与 TOP 数据集的 IC 性能上取得显著提升，而原型网络与 MAML 在全部三个数据集的 SF 上均优于基线。此外，我们证明联合训练以及预训练语言模型（本工作中为 ELMo 与 BERT）的使用，与这些少样本学习方法互补并带来进一步提升。
引用
@article{arxiv.2004.10793,
title = {Learning to Classify Intents and Slot Labels Given a Handful of Examples},
author = {Jason Krone and Yi Zhang and Mona Diab},
journal= {arXiv preprint arXiv:2004.10793},
year = {2020}
}
备注
8 pages, 2 figures