BERT-DST：基于Transformer双向编码器表示的可扩展端到端对话状态跟踪
计算与语言
2019-07-09 v1
摘要
对话状态跟踪（DST）中一个重要但很少被解决的问题是针对动态本体（如电影、餐厅）和未见槽值的可扩展性。我们关注一种特定情形，即状态跟踪器未知本体，但目标槽值（除 none 和 dontcare 外）可能在训练时未见，且可作为词段在对话上下文中找到。先前的方法通常依赖于 n-gram 枚举或槽标记器输出的候选生成，这可能效率低下或遭受错误传播。我们提出 BERT-DST，一种端到端对话状态跟踪器，直接从对话上下文中提取槽值。我们使用 BERT 作为对话上下文编码器，其上下文化语言表示适用于可扩展 DST，以从语义上下文中识别槽值。此外，我们在所有槽之间共享编码器参数，具有两个优势：（1）参数数量不随本体线性增长。（2）语言表示知识可在槽之间迁移。实证评估表明，具有跨槽参数共享的 BERT-DST 在基准可扩展 DST 数据集 Sim-M 和 Sim-R 上优于先前工作，并在标准 DSTC2 和 WOZ 2.0 数据集上取得有竞争力的性能。
引用
@article{arxiv.1907.03040,
title = {BERT-DST: Scalable End-to-End Dialogue State Tracking with Bidirectional Encoder Representations from Transformer},
author = {Guan-Lin Chao and Ian Lane},
journal= {arXiv preprint arXiv:1907.03040},
year = {2019}
}
备注
Published in Interspeech 2019