解释用于疾病-治疗信息抽取的黑盒文本分类器
人工智能
2020-10-22 v1 计算与语言
摘要
深度神经网络及其他复杂人工智能（AI）模型已在许多生物医学自然语言处理任务上达到高准确度。然而，由于其模糊的内部运作与决策逻辑，它们在真实世界用例中的适用性可能受限。事后解释方法可通过提取特征值与结果之间的关系来近似黑盒 AI 模型的行为。本文引入一种事后解释方法，利用置信项集来近似用于医学信息抽取的黑盒分类器的行为。我们的解释器将医学概念与语义纳入解释过程，在黑盒分类器决策空间的不同部分中发现输入与输出之间的语义关系。实验结果表明，在疾病-治疗信息抽取任务上，就所生成解释的真实性与可解释性而言，我们的解释方法优于基于扰动和决策集的解释器。
引用
@article{arxiv.2010.10873,
title = {Explaining black-box text classifiers for disease-treatment information extraction},
author = {Milad Moradi and Matthias Samwald},
journal= {arXiv preprint arXiv:2010.10873},
year = {2020}
}