AcME——加速的模型无关解释：机器学习黑盒的快速白化
机器学习
2021-12-24 v1
摘要
在人在回路的机器学习应用（如决策支持系统）中，可解释性方法应提供可操作的洞察而不让用户等待。本文提出加速的模型无关解释（AcME），一种可快速在全局与局部层面提供特征重要性得分的可解释性方法。AcME 可事后应用于任一回归或分类模型。AcME 不仅计算特征排序，还提供假设分析工具以评估特征值变化将如何影响模型预测。我们在合成与真实世界数据集上评估了所提方法，并与我们所借鉴的、目前最先进的模型无关可解释性方法之一 SHapley Additive exPlanations (SHAP) 进行比较。我们在所生成解释的质量上取得了可比结果，同时大幅减少了计算时间，并为全局与局部解释提供了连贯一致的可视化。为促进该领域研究并出于可复现性考虑，我们还提供了一个包含实验所用代码的仓库。
引用
@article{arxiv.2112.12635,
title = {AcME -- Accelerated Model-agnostic Explanations: Fast Whitening of the Machine-Learning Black Box},
author = {David Dandolo and Chiara Masiero and Mattia Carletti and Davide Dalle Pezze and Gian Antonio Susto},
journal= {arXiv preprint arXiv:2112.12635},
year = {2021}
}