基于知识库与文本的可解释问答
计算与语言
2019-06-27 v1 人工智能
机器学习
摘要
随着机器学习（ML）模型被日益广泛采用，其可解释性变得更为相关。在本工作中，我们针对基于知识库（KB）与文本文档组合的问答（QA）模型的可解释性进行研究。我们改编了 LIME 与输入扰动（IP）等事后解释方法，并将其与模型自身的可解释注意力机制进行比较。为此，我们提出了一种在 QA 语境下对解释方法进行自动评价的范式。我们还开展了一项由人类标注者参与的研究，以评估解释是否有助于他们识别更优的 QA 模型。我们的结果表明，根据自动评价与人类评价，IP 提供的解释优于 LIME 或注意力机制。我们在两项实验中获得了相同的方法排序，这支持了我们所提自动评价范式的有效性。
引用
@article{arxiv.1906.10924,
title = {Interpretable Question Answering on Knowledge Bases and Text},
author = {Alona Sydorova and Nina Poerner and Benjamin Roth},
journal= {arXiv preprint arXiv:1906.10924},
year = {2019}
}