面向内在可解释 CNN 与视觉变换器的 B-cos 对齐
计算机视觉与模式识别
2024-01-17 v2
摘要
我们提出了一种通过训练期间促进权重-输入对齐来提高深度神经网络（DNNs）可解释性的新方向。为此，我们提议用我们新颖的 B-cos 变换替换 DNNs 中的线性变换。正如我们所展示的，此类变换的一个序列（网络）会诱导出单一的线性变换，忠实地概括整个模型的计算。此外，B-cos 变换的设计使得权重在优化过程中与相关信号对齐。因此，那些诱导出的线性变换变得高度可解释，并突出任务相关特征。重要的是，B-cos 变换被设计为与现有架构兼容，并且我们表明它可以轻松地集成到几乎所有最新的计算机视觉 SOTA 模型中——例如 ResNets、DenseNets、ConvNext 模型以及 Vision Transformers——通过将基于 B-cos 的解释与归一化和注意力层结合，同时在 ImageNet 上保持相似的准确率。最后，我们表明所得解释具有高质量的视觉效果，并在定量可解释性指标下表现良好。
引用
@article{arxiv.2306.10898,
title = {B-cos Alignment for Inherently Interpretable CNNs and Vision Transformers},
author = {Moritz Böhle and Navdeeppal Singh and Mario Fritz and Bernt Schiele},
journal= {arXiv preprint arXiv:2306.10898},
year = {2024}
}
备注
Extension of B-cos Networks: Alignment is All We Need for Interpretability (B\"ohle et al., CVPR 2022). Accepted for publication in IEEE Transactions on Pattern Analysis and Machine Intelligence. arXiv admin note: substantial text overlap with arXiv:2205.10268