面向任务型对话系统的半监督知识增强预训练
计算与语言
2022-12-26 v2
摘要
神经方法的最新进展极大改进了协助用户完成目标的任务型对话（TOD）系统。然而，此类系统依赖于代价高昂的人工标注对话，而在实际场景中往往无法获取。本文介绍我们为 SereTOD 2022 挑战赛 Track 2 所构建的模型，该挑战赛是首个在大规模真实中文 TOD 数据集 MobileCS 上构建半监督与强化 TOD 系统的比赛。我们构建了一个知识增强的对话模型，将对话历史与本地知识库作为模型输入并预测系统回复。我们在标注数据与未标注数据上均进行了半监督预训练。我们的系统在自动评测与人机交互中均获得第一名，尤其 BLEU（+7.64）与成功率（+13.6%）高于第二名。
引用
@article{arxiv.2210.08873,
title = {Semi-Supervised Knowledge-Grounded Pre-training for Task-Oriented Dialog Systems},
author = {Weihao Zeng and Keqing He and Zechen Wang and Dayuan Fu and Guanting Dong and Ruotong Geng and Pei Wang and Jingang Wang and Chaobo Sun and Wei Wu and Weiran Xu},
journal= {arXiv preprint arXiv:2210.08873},
year = {2022}
}
备注
Accepted at the SereTOD 2022 Workshop, EMNLP 2022