利用统计故障定位解释图像分类器
机器学习
2020-07-20 v2 人工智能
摘要
深度神经网络（DNNs）的黑箱特性使得理解特定输出为何产生变得不可能，由此催生了对“可解释 AI”的需求。在本文中，我们展示软件工程中的统计故障定位（SFL）技术可为 DNN 输出提供高质量解释，其中我们将解释定义为足以作出与原始输入相同决策的极小特征子集。我们提出一种算法与名为 DeepCover 的工具，其利用 SFL 综合输入特征的排序，并基于此排序构建 DNN 决策的解释。我们将 DeepCover 生成的解释与前沿工具 GradCAM、LIME、SHAP、RISE 与 Extremal 的解释比较，表明 DeepCover 生成的解释在广泛实验中始终更优。在具已知真值的基准集上，DeepCover 达到 76.7% 准确率，比次优的 Extremal 高 6%。
引用
@article{arxiv.1908.02374,
title = {Explaining Image Classifiers using Statistical Fault Localization},
author = {Youcheng Sun and Hana Chockler and Xiaowei Huang and Daniel Kroening},
journal= {arXiv preprint arXiv:1908.02374},
year = {2020}
}