面向多轮端到端口语理解的有注意力上下文继承
计算与语言
2021-12-14 v1 人工智能
摘要
近年来端到端（E2E）口语理解（SLU）系统取得显著进展，其直接从语音音频预测意图与槽位。尽管对话历史已被用于改进传统基于文本的自然语言理解系统，当前的 E2E SLU 方法尚未在多轮、任务型对话中引入此类关键的上下文信号。本工作中，我们提出一种上下文 E2E SLU 模型架构，其对多轮对话中已编码的先前话语及对话行为（语音助手所采取的动作）使用多头注意力机制。我们详述了将这些上下文整合进最先进的循环与基于 transformer 的模型的替代方法。当应用于语音助手收集的大规模去标识化话语数据集时，我们的方法使平均词错误率与语义错误率分别降低 10.8% 与 12.6%。我们也在公开可用数据集上给出结果，并显示我们的方法相较非上下文基线显著提升了性能。
引用
@article{arxiv.2112.06743,
title = {Attentive Contextual Carryover for Multi-Turn End-to-End Spoken Language Understanding},
author = {Kai Wei and Thanh Tran and Feng-Ju Chang and Kanthashree Mysore Sathyendra and Thejaswi Muniyappa and Jing Liu and Anirudh Raju and Ross McGowan and Nathan Susanj and Ariya Rastrow and Grant P. Strimel},
journal= {arXiv preprint arXiv:2112.06743},
year = {2021}
}