基于上下文注意力的知识迁移用于口语对话问答
计算与语言
2021-06-25 v4 人工智能
信息检索
机器学习
声音
音频与语音处理
摘要
口语对话问答（SCQA）要求机器在给定语音话语和文本语料的情况下对复杂的对话流进行建模。与传统的文本问答（QA）任务不同，SCQA涉及音频信号处理、篇章理解和上下文理解。然而，ASR系统会给转写文本引入非预期的噪声信号，从而导致SCQA上的性能下降。为克服该问题，我们提出CADNet，一种新颖的基于上下文注意力的蒸馏方法，其同时应用交叉注意力和自注意力来获取篇章与对话历史的ASR鲁棒上下文嵌入表示，从而提升性能。我们还引入了口语常规知识蒸馏框架，将教师模型估计概率中的ASR鲁棒知识蒸馏给学生模型。我们在Spoken-CoQA数据集上进行了大量实验，并证明我们的方法在该任务上取得了显著性能。
引用
@article{arxiv.2010.11066,
title = {Contextualized Attention-based Knowledge Transfer for Spoken Conversational Question Answering},
author = {Chenyu You and Nuo Chen and Yuexian Zou},
journal= {arXiv preprint arXiv:2010.11066},
year = {2021}
}