使用 MLB 融合的并行意图与槽位预测
计算与语言
2020-03-23 v1 人工智能
音频与语音处理
摘要
意图与槽位识别是口语理解 (SLU) 中的两项重要任务。对于自然语言语句，这两任务间存在高度相关性。利用循环神经网络 (RNN)、卷积神经网络 (CNN) 和基于注意力的模型，已对各自任务开展大量工作。以往多数工作对意图与槽位预测使用两个独立模型，其中部分采用序列到序列型模型，在评估语句级意图后再预测槽位。本工作中，我们提出一种并行意图与槽位预测技术，对每项任务分别使用双向门控循环单元 (GRU)。我们主张使用 MLB（多模态低秩双线性注意力网络，Multimodal Low-rank Bilinear Attention Network）融合来提升意图与槽位学习的性能。据我们所知，这是此类技术首次应用于基于文本的问题。此外，我们所提方法在两个基准数据集上均超越了现有的意图与槽位预测最先进结果。
引用
@article{arxiv.2003.09211,
title = {Parallel Intent and Slot Prediction using MLB Fusion},
author = {Anmol Bhasin and Bharatram Natarajan and Gaurav Mathur and Himanshu Mangla},
journal= {arXiv preprint arXiv:2003.09211},
year = {2020}
}