用于解释目标检测器的显著性方法的合理性检验
计算机视觉与模式识别
2023-06-06 v1 机器学习
摘要
显著性方法常被用于解释基于深度神经网络的模型。Adebayo 等人关于分类模型显著性方法评估的工作表明，某些解释方法未通过模型与数据随机化检验。然而，在将检验扩展至多种最先进的目标检测器时，我们表明解释模型的能力更多依赖于模型本身而非解释方法。我们对目标检测执行合理性检验，并定义了新的定性标准来评估显著性解释，涵盖目标分类与边界框决策，使用 Guided Backpropagation、Integrated Gradients 及其 Smoothgrad 版本，结合在 COCO 上训练的 Faster R-CNN、SSD 和 EfficientDet-D0。此外，解释方法对模型参数与数据标签的敏感性随类别变化，这促使我们对每个类别执行合理性检验。我们发现，无论采用何种显著性方法，EfficientDet-D0 都是最具可解释性的方法，其几乎毫无问题地通过了合理性检验。
引用
@article{arxiv.2306.02424,
title = {Sanity Checks for Saliency Methods Explaining Object Detectors},
author = {Deepan Chakravarthi Padmanabhan and Paul G. Plöger and Octavio Arriaga and Matias Valdenegro-Toro},
journal= {arXiv preprint arXiv:2306.02424},
year = {2023}
}
备注
18 pages, 10 figures, 1st World Conference on eXplainable Artificial Intelligence camera ready