基于少样本响应生成与排序的对话系统对话行为可控生成
计算与语言
2023-07-28 v1
摘要
对话系统需要生成实现多种类型对话行为（DAs）且具有高语义保真度的响应。过去，用于对话的自然语言生成器（NLGs）在大规模并行语料库上训练，这些语料库将特定领域的 DA 及其语义属性映射到输出话语。近期工作表明，预训练语言模型（LLMs）为使用基于提示的学习实现可控 NLG 提供了新可能。在此，我们开发了一种新颖的少样本过生成与排序方法，实现了 DA 的可控生成。我们比较了八种少样本提示风格，其中包括一种利用文本风格迁移方法从文本伪参考进行生成的新型方法。我们开发了六种自动排序函数，用于在生成时识别具有正确 DA 和高语义准确性的输出。我们在三个领域和四种 LLMs 上测试了我们的方法。据我们所知，这是首个在对话 NLG 中同时使用 DA 和属性准确性自动排序输出的工作。为完整起见，我们将结果与使用每 DA 5 至 100 个实例训练的微调少样本模型进行比较。我们的结果表明，若干提示设置实现了完美的 DA 准确率，以及近乎完美的语义准确率（99.81%），并且优于少样本微调。
引用
@article{arxiv.2307.14440,
title = {Controllable Generation of Dialogue Acts for Dialogue Systems via Few-Shot Response Generation and Ranking},
author = {Angela Ramirez and Karik Agarwal and Juraj Juraska and Utkarsh Garg and Marilyn A. Walker},
journal= {arXiv preprint arXiv:2307.14440},
year = {2023}
}
备注
To Appear in SIGDIAL 2023. Proceedings of the 24th Annual Meeting of the Special Interest Group on Discourse and Dialogue. 2023