用于对话状态跟踪的知识感知图增强 GPT-2
计算与语言
2021-09-24 v3 机器学习
摘要
对话状态跟踪是多领域任务型对话系统的核心，负责从用户话语中提取信息。我们提出一种新颖的混合架构，以这样一种方式用图注意力网络导出的表示来增强 GPT-2，从而允许对槽值进行因果的、序列化的预测。该模型架构捕获了跨领域的槽间关系与依赖，否则这些可能在序列化预测中丢失。我们报告了在 MultiWOZ 2.0 中相对于强 GPT-2 基线的状态跟踪性能提升，并研究了一种简化的稀疏训练场景，其中 DST 模型仅在会话级标注上训练但在轮次级评估。我们进一步报告了详细分析，通过展示所提出的图模块捕获槽间依赖并改善对多领域共有值的预测，来证明图模型在 DST 中的有效性。
引用
@article{arxiv.2104.04466,
title = {Knowledge-Aware Graph-Enhanced GPT-2 for Dialogue State Tracking},
author = {Weizhe Lin and Bo-Hsiang Tseng and Bill Byrne},
journal= {arXiv preprint arXiv:2104.04466},
year = {2021}
}
备注
This paper is in the Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing (EMNLP 2021)