面向客服对话的统一知识提示预训练
计算与语言
2022-09-01 v1
摘要
对话机器人在客服场景中已被广泛应用，以提供及时且友好的用户体验。这些机器人必须对对话的适当领域进行分类、理解用户意图并生成恰当回复。现有的对话预训练模型仅针对若干对话任务设计，且忽略了客服对话中弱监督的专家知识。本文提出一种新颖的统一知识提示预训练框架UFA（面向所有任务的统一模型，\textbf{U}nified Model \textbf{F}or \textbf{A}ll Tasks），用于客服对话。我们将客服对话的所有任务表述为统一的文本到文本生成任务，并引入知识驱动的提示策略，从混合的不同对话任务中联合学习。我们在从实际场景收集的大规模中文客服语料上对UFA进行预训练，并在自然语言理解(NLU)和自然语言生成(NLG)基准上取得显著提升。
引用
@article{arxiv.2208.14652,
title = {Unified Knowledge Prompt Pre-training for Customer Service Dialogues},
author = {Keqing He and Jingang Wang and Chaobo Sun and Wei Wu},
journal= {arXiv preprint arXiv:2208.14652},
year = {2022}
}
备注
CIKM2022