多头解释器：提升 CNN 和 Transformer 可解释性的通用框架
计算机视觉与模式识别
2025-01-14 v2 人工智能
摘要
本研究中，我们引入了多头解释器 (MHEX)，是一个灵活且模块化的框架，用于增强卷积神经网络 (CNN) 和基于 Transformer 的模型的可解释性和准确性。MHEX 由三个核心组件构成：注意力门动态地突出显示与任务相关的特征，深度监督指导早期层捕获针对目标类别的细粒度细节，等价矩阵统一精炼后的局部和全局表示，以生成全面的显著性图。我们的方法表现出卓越的兼容性，能够轻松集成到现有的残差网络（如 ResNet）和 Transformer 架构（如 BERT）中，只需 minimal 修改。在医学影像和文本分类基准数据集上的广泛实验表明，MHEX 不仅提高了分类准确率，而且还产生高度可解释和详细的显著性得分。
关键词
引用
@article{arxiv.2501.01311,
title = {Multi-Head Explainer: A General Framework to Improve Explainability in CNNs and Transformers},
author = {Bohang Sun and Pietro Liò},
journal= {arXiv preprint arXiv:2501.01311},
year = {2025}
}