面向任务型对话的小样本自然语言生成
计算与语言
2020-02-28 v1
摘要
作为任务型对话系统的关键组件,自然语言生成(NLG)模块将语义形式表示的对话行为转换为自然语言响应。传统基于模板或统计模型的成功通常依赖于大量标注数据,这对新领域而言不可行。因此,在实际应用中,NLG系统能以有限标注数据良好泛化至关重要。为此,我们提出FewShotWoz,首个模拟任务型对话系统中小样本学习设定的NLG基准。进一步,我们开发了SC-GPT模型。它在大规模标注NLG语料上预训练以获得可控生成能力,并仅用少量领域特定标签微调以适配新领域。在FewShotWoz与大型Multi-Domain-WOZ数据集上的实验表明,所提出的SC-GPT在多种自动指标与人工评估下显著优于现有方法。
引用
@article{arxiv.2002.12328,
title = {Few-shot Natural Language Generation for Task-Oriented Dialog},
author = {Baolin Peng and Chenguang Zhu and Chunyuan Li and Xiujun Li and Jinchao Li and Michael Zeng and Jianfeng Gao},
journal= {arXiv preprint arXiv:2002.12328},
year = {2020}
}
备注
Project website: https://aka.ms/scgpt ; Code and data: https://github.com/pengbaolin/SC-GPT