在后验解释中整合先验知识
人工智能
2022-04-26 v1 计算与语言
机器学习
摘要
在可解释人工智能(XAI)领域，后验可解释性方法旨在向用户解释训练好的决策模型的预测。将先验知识整合到此类可解释性方法中旨在提高解释的可理解性，并允许针对每个用户个性化的解释。在本文中，我们提出定义一个显式地将先验知识整合进可解释性目标的代价函数：我们提出后验可解释性方法优化问题的一般框架，并表明通过代价函数中添加兼容性项从而可将用户知识整合到任何方法中。我们在反事实解释的案例中实例化所提出的形式化，并提出一种称为反事实解释中的知识整合(KICE)的新的可解释性方法来优化它。本文在多个基准数据集上进行了实验研究，以刻画 KICE 生成的反事实实例，并与参考方法进行比较。
引用
@article{arxiv.2204.11634,
title = {Integrating Prior Knowledge in Post-hoc Explanations},
author = {Adulam Jeyasothy and Thibault Laugel and Marie-Jeanne Lesot and Christophe Marsala and Marcin Detyniecki},
journal= {arXiv preprint arXiv:2204.11634},
year = {2022}
}
备注
preprint