基于模型无关解释的语义推理
人工智能
2021-06-30 v1
摘要
随着黑盒模型的广泛采用，基于实例的\emph{事后}解释工具(如 LIME 和 SHAP)日益流行。这些工具生成解释，指出与给定预测相关的关键特征贡献。然而，所得解释仍停留在原始特征层面，若无广泛领域知识，人类专家未必能理解。我们提出 ReEx(用解释推理)，一种适用于任意实例级解释器(如 SHAP)所生成解释的方法。通过使用以本体形式表达的背景知识，ReEx 以类似最小一般泛化的方式对实例解释进行泛化。所得符号化描述针对各个类别且基于解释器输出提供泛化。推导出的语义解释可能更具信息量，因为它们在更通用的背景知识(例如生物过程层面)语境下描述关键属性。我们在九个生物数据集上展示了 ReEx 的性能，表明可获得紧凑的语义解释，且比直接将术语链接到特征名的通用本体映射更具信息量。ReEx 作为一个易用的 Python 库提供，并兼容 SHAP 及类似工具。据我们所知，这是直接将语义推理与当代模型解释方法结合的首批方法之一。本文为预印本。完整版本 doi：10.1109/SAMI50585.2021.9378668
引用
@article{arxiv.2106.15433,
title = {Semantic Reasoning from Model-Agnostic Explanations},
author = {Timen Stepišnik Perdih and Nada Lavrač and Blaž Škrlj},
journal= {arXiv preprint arXiv:2106.15433},
year = {2021}
}