基于关键轮次与外部知识的多轮对话阅读理解
计算与语言
2021-02-11 v1 人工智能
摘要
多轮对话阅读理解旨在教会机器阅读对话上下文并解决诸如回复选择和回答问题等任务。主要挑战包括含噪的历史上下文以及给定材料中未出现的常识知识的特殊先决条件。现有工作主要关注上下文与回复匹配方法。因此,本工作首次尝试通过提取实质重要的轮次作为关键话语,并利用外部知识增强上下文表示来应对上述两个挑战。我们提出了一种基于 Transformer 语言模型的、面向关键轮次的深度选择模型(PoDS)用于对话理解。具体而言,我们的模型首先根据与候选回复或问题(若有)的语义匹配从对话历史中挑出关键话语。此外,从知识图谱中提取与对话上下文相关的知识项作为外部知识。然后,关键话语与外部知识通过精心设计的机制相结合以精炼预测。在四个对话理解基准任务上的实验结果表明,我们提出的模型相较基线取得了显著提升。我们进行了一系列实证比较,以展示我们的选择策略和额外知识注入如何影响结果。
引用
@article{arxiv.2102.05474,
title = {Multi-turn Dialogue Reading Comprehension with Pivot Turns and Knowledge},
author = {Zhuosheng Zhang and Junlong Li and Hai Zhao},
journal= {arXiv preprint arXiv:2102.05474},
year = {2021}
}
备注
The early version accepted by IEEE/ACM Transactions on Audio, Speech, and Language Processing (TASLP)