一种新颖的事后解释比较度量及其应用
机器学习
2023-11-21 v1 人工智能
摘要
解释系统使机器学习模型的行为更透明，但常不一致。为量化解释系统间差异，本文提出 Shreyan 距离，一种基于此类系统所产生的排序特征重要性列表间加权差异的新颖度量。本文使用 Shreyan 距离比较回归与分类学习任务下两种解释系统 SHAP 与 LIME。由于我们发现平均 Shreyan 距离在这两类任务间差异显著，得出结论：解释器间的一致性不仅取决于解释器自身的固有属性，也取决于学习任务的类型。本文进一步贡献了 XAISuite 库，将 Shreyan 距离算法集成至机器学习流水线。
引用
@article{arxiv.2311.10811,
title = {A novel post-hoc explanation comparison metric and applications},
author = {Shreyan Mitra and Leilani Gilpin},
journal= {arXiv preprint arXiv:2311.10811},
year = {2023}
}
备注
8 pages, 4 figures, 2 tables, and 1 listing. arXiv admin note: substantial text overlap with arXiv:2304.08499