B-cos 网络：对齐即我们所需的可解释性
计算机视觉与模式识别
2022-05-23 v1 机器学习
摘要
我们提出一种通过训练期间促进权重-输入对齐来提高深度神经网络（DNNs）可解释性的新方向。为此，我们提议用我们的 B-cos 变换替换 DNNs 中的线性变换。如我们所展示的，此类变换的序列（网络）会诱导出单一线性变换，忠实概括整个模型的计算。此外，B-cos 变换在优化过程中对权重引入对齐压力。结果，那些诱导出的线性变换变得高度可解释并与任务相关特征对齐。重要的是，B-cos 变换被设计为与现有架构兼容，并且我们展示它可轻松集成到常见模型（如 VGGs、ResNets、InceptionNets 和 DenseNets）中，同时在 ImageNet 上保持相似性能。所得解释具有高质量视觉效果，并在可解释性的量化指标下表现良好。代码见 https://www.github.com/moboehle/B-cos。
引用
@article{arxiv.2205.10268,
title = {B-cos Networks: Alignment is All We Need for Interpretability},
author = {Moritz Böhle and Mario Fritz and Bernt Schiele},
journal= {arXiv preprint arXiv:2205.10268},
year = {2022}
}