XAISuite 框架及解释系统不一致性的影响
机器学习
2023-04-19 v1 人工智能
摘要
解释系统使机器学习模型更为透明。然而，它们常不一致。为量化并隔离导致该差异的可能场景，本文基于各自重要性得分的相关性，使用 14 个机器学习模型（7 个回归与 7 个分类）和 4 个表格数据集（2 个回归与 2 个分类）比较两种解释系统 SHAP 与 LIME。我们有两个新发现。首先，重要性的量级在解释一致性上并不显著。最重要特征的 SHAP 与 LIME 重要性得分间的相关性，可能比所有特征平均的 SHAP 与 LIME 重要性得分间的相关性更可变，也可能并非如此。其次，SHAP 与 LIME 重要性得分的相似性无法预测模型精度。在研究过程中，我们构建了开源库 XAISuite，统一了模型训练与解释流程。最后，本文贡献了一个通用框架，以更好地解释机器学习模型并优化其性能。
引用
@article{arxiv.2304.08499,
title = {The XAISuite framework and the implications of explanatory system dissonance},
author = {Shreyan Mitra and Leilani Gilpin},
journal= {arXiv preprint arXiv:2304.08499},
year = {2023}
}
备注
41 pages, 23 figures