基于超像素的方法用于神经网络稳定解释
计算机视觉与模式识别
2024-12-20 v1
摘要
显著图谱在计算机视觉领域广泛用于解释神经网络分类器，但由于训练样本和优化算法的随机性，所得显著图谱存在显著的随机性，使领域专家难以捕捉影响神经网络决策的内在因素。本文提出一种新颖的像素分区策略，以提高基于梯度的显著图谱稳定性和可泛化性。通过理论分析和数值实验，我们展示像素分组可降低显著图谱方差并提高解释方法的泛化行为。进一步，我们提出一种基于超像素的合理分组策略，将像素聚类到与图像语义意义相吻合的组中。我们在 CIFAR-10 和 ImageNet 上进行了若干数值实验。我们的实验结果表明，基于超像素的解释图谱在稳定性和质量上 consistently 优于基于像素的显著图谱。
引用
@article{arxiv.2412.14509,
title = {A Super-pixel-based Approach to the Stable Interpretation of Neural Networks},
author = {Shizhan Gong and Jingwei Zhang and Qi Dou and Farzan Farnia},
journal= {arXiv preprint arXiv:2412.14509},
year = {2024}
}
备注
BMVC 2024