一种面向模式引导对话数据集的快速鲁棒BERT对话状态跟踪器
机器学习
2020-08-31 v1 机器学习
摘要
对话状态跟踪（DST）是面向目标对话系统中最关键的模块之一。在本文中，我们介绍FastSGT（Fast Schema Guided Tracker），一种基于BERT的快速且鲁棒的模型，用于面向目标对话系统中的状态跟踪。所提出的模型专为模式引导对话（SGD）数据集设计，该数据集包含所有实体（包括用户意图、服务和槽位）的自然语言描述。该模型结合了两种承接过程，用于处理当前用户话语中未明确提及的值的提取。它还在部分解码器中使用多头注意力投影，以更好地建模编码器输出。在进行的实验中，我们将FastSGT与SGD数据集的基线模型进行比较。我们的模型在保持计算和内存消耗效率的同时，显著提高了准确率。此外，我们给出了消融研究，衡量模型不同部分对其性能的影响。我们还展示了数据增强在无需增加计算资源的情况下提高准确率的有效性。
引用
@article{arxiv.2008.12335,
title = {A Fast and Robust BERT-based Dialogue State Tracker for Schema-Guided Dialogue Dataset},
author = {Vahid Noroozi and Yang Zhang and Evelina Bakhturina and Tomasz Kornuta},
journal= {arXiv preprint arXiv:2008.12335},
year = {2020}
}
备注
Accepted to the Workshop on Conversational Systems Towards Mainstream Adoption at KDD 2020