利用 BERT 联合编码词混淆网络与对话上下文进行口语语言理解
计算与语言
2020-09-09 v3 机器学习
摘要
口语语言理解（SLU）将自动语音识别器（ASR）的假设转换为结构化的语义表示。ASR 的识别错误会严重降低后续 SLU 模块的性能。为解决此问题，词混淆网络（WCNs）已被用于编码 SLU 的输入，其包含的信息比 1-best 或 n-best 假设列表更丰富。为进一步消除歧义，对话上下文的上一系统动作也被用作额外输入。本文提出了一种新颖的基于 BERT 的 SLU 模型（WCN-BERT SLU），用于联合编码 WCN 和对话上下文。它能够在 BERT 架构中同时整合 WCN 的结构信息和 ASR 后验概率。在 SLU 基准数据集 DSTC2 上的实验表明，所提出的方法有效，并能显著优于以往最先进的模型。
引用
@article{arxiv.2005.11640,
title = {Jointly Encoding Word Confusion Network and Dialogue Context with BERT for Spoken Language Understanding},
author = {Chen Liu and Su Zhu and Zijian Zhao and Ruisheng Cao and Lu Chen and Kai Yu},
journal= {arXiv preprint arXiv:2005.11640},
year = {2020}
}
备注
Accepted to INTERSPEECH 2020