通过知识编译高效计算神经网络分类器的Shap解释分数
人工智能
2023-07-25 v3 数据库
机器学习
摘要
Shap分数在可解释AI中的使用已十分广泛。然而，其计算通常是难处理的，特别是在使用黑盒分类器(如神经网络)时。近期研究揭示了若干类可高效计算Shap的开盒布尔电路分类器。我们展示了如何将二值神经网络转换为这些电路以实现高效的Shap计算。我们使用了基于逻辑的知识编译技术。正如我们在实验中所示，性能提升是巨大的。
引用
@article{arxiv.2303.06516,
title = {Efficient Computation of Shap Explanation Scores for Neural Network Classifiers via Knowledge Compilation},
author = {Leopoldo Bertossi and Jorge E. Leon},
journal= {arXiv preprint arXiv:2303.06516},
year = {2023}
}
备注
Substantial revision of previous version with the same title. To appear in conference proceedings. It replaces the previously uploaded paper "Opening Up the Neural Network Classifier for Shap Score Computation", by the same authors