面向可解释视觉识别的空间信息瓶颈
计算机视觉与模式识别
2025-11-13 v1
摘要
深度神经网络通常学习到空间交织的表征，將判别性前景特征与偶发背景相关性混合，从而削弱模型的可解释性和鲁棒性。我们提出了一种从信息论视角理解梯度基准方法的新框架。我们证明，在温和条件下，反向传播期间计算的向量-雅可比积（VJP）是输入特征相对于类别标签的最小充分统计量。基于此发现，我们提出了编码-解码视角：前向传播将输入编码到类别空间，而VJP在反向传播中解码回到特征空间。因此，我们提出空间信息瓶颈（S-IB）来空间解耦信息流。通过最大化前景VJP与输入之间的互信息，同时最小化背景区域的互信息，S-IB鼓励网络仅在与类别相关的空间区域编码信息。由于后置解释方法本质上源于VJP计算，直接在训练期优化VJP的空间结构可提升各种解释范式的可视化质量。实验在五个基准数据集上表明，S-IB在六种解释方法上实现了普遍性改进，前景集中更好、背景抑制更强，无需方法特定调参，同时保持一致的分类准确率提升。
引用
@article{arxiv.2511.09239,
title = {Spatial Information Bottleneck for Interpretable Visual Recognition},
author = {Kaixiang Shu and Kai Meng and Junqin Luo},
journal= {arXiv preprint arXiv:2511.09239},
year = {2025}
}