CG-BERT：面向广义小样本意图检测的基于BERT的条件文本生成
计算与语言
2020-04-07 v1 机器学习
摘要
本文为自然语言理解中的意图检测任务构建了一个更现实且更困难的问题设定，即广义小样本意图检测（GFSID）。GFSID旨在判别一个联合标签空间，该空间既包含拥有足够标注数据的已有意图，也包含每类仅有少量示例的新颖意图。为解决此问题，我们提出一种新颖模型——基于BERT的条件文本生成（CG-BERT）。CG-BERT有效利用大型预训练语言模型，生成以意图标签为条件的文本。通过变分推断对话语分布建模，CG-BERT即使仅有少量话语可用，也能为新颖意图生成多样化的话语。实验结果表明，在两个真实世界数据集上，CG-BERT在1-shot和5-shot设定下的GFSID任务中均达到了最先进的性能。
引用
@article{arxiv.2004.01881,
title = {CG-BERT: Conditional Text Generation with BERT for Generalized Few-shot Intent Detection},
author = {Congying Xia and Chenwei Zhang and Hoang Nguyen and Jiawei Zhang and Philip Yu},
journal= {arXiv preprint arXiv:2004.01881},
year = {2020}
}
备注
11 pages, 4 figures