基于 GPT 架构与目标状态跟踪的生成式用户模拟器用于强化多领域对话系统
计算与语言
2022-10-19 v2 人工智能
摘要
构建用于任务型对话系统（DSs）强化学习（RL）的用户模拟器（USs）已受到越来越多的关注，然而其仍面临若干基础性挑战。首先，尚不清楚我们能否利用预训练语言模型来设计例如基于 GPT-2 的 USs，以跟上并交互于近期先进的基于 GPT-2 的 DSs。其次，USs 的一个重要组成部分是用户目标能够被有效地融入与跟踪；但如何灵活整合目标状态跟踪并为多领域开发端到端可训练 US 仍是一项挑战。在本工作中，我们提出一种具有基于 GPT-2 架构和目标状态跟踪的生成式用户模拟器（GUS），以应对上述两个挑战。我们在 MultiWOZ2.1 上进行了大量实验。分别使用 GUS、经典的基于议程的用户模拟器（ABUS）及其他消融模拟器通过 RL 训练不同的 DSs，并在跨模型评估、基于语料的评估和人工评估中进行比较。GUS 在所有三项评估任务中均取得了优越结果。
引用
@article{arxiv.2210.08692,
title = {A Generative User Simulator with GPT-based Architecture and Goal State Tracking for Reinforced Multi-Domain Dialog Systems},
author = {Hong Liu and Yucheng Cai and Zhijian Ou and Yi Huang and Junlan Feng},
journal= {arXiv preprint arXiv:2210.08692},
year = {2022}
}
备注
Accepted by EMNLP 2022 SereTOD Workshop