以响应选择为辅助任务的高效面向任务对话系统
计算与语言
2023-02-14 v2 人工智能
摘要
预训练语言模型在面向任务对话系统中的采用显著增强了其文本生成能力。然而，由于可训练参数数量庞大，这些架构使用缓慢，且有时无法生成多样化响应。为应对这些局限，我们提出两种带响应选择辅助任务的模型——（1）区分干扰项与真实响应，以及（2）区分合成响应与真实标签。它们在 MultiWOZ 2.1 数据集上以 107.5 和 108.3 的综合得分取得最先进（SOTA）结果，并优于参数多三倍的基线。我们发布了可复现的代码与检查点，并讨论了将辅助任务应用于基于 T5 的架构的效果。
引用
@article{arxiv.2208.07097,
title = {Efficient Task-Oriented Dialogue Systems with Response Selection as an Auxiliary Task},
author = {Radostin Cholakov and Todor Kolev},
journal= {arXiv preprint arXiv:2208.07097},
year = {2023}
}
备注
7 pages, 2 figures, 2 tables