LAP：一种用于卷积神经网络中基于概念的自解释与知识注入的注意力模块
计算机视觉与模式识别
2023-10-25 v5 机器学习
摘要
尽管深度卷积神经网络具备最先进的性能，它们在未知情境中仍易出现偏差与故障。此外，其推理背后的复杂计算难以被人理解，从而难以建立信任。外部解释器方法试图以人类可理解的方式解释网络决策，但因假设与简化而被指存在谬误。另一方面，模型固有的自解释性虽对上述谬误更具鲁棒性，却无法应用于已训练好的模型。本工作中，我们提出一种名为局部注意力池化（Local Attention Pooling, LAP）的基于注意力的池化层，可实现自解释性并支持无性能损失的知识注入。该模块可轻松插入任意卷积神经网络，包括已训练模型。我们定义了弱监督训练方案，以在无需专家标注的情况下学习决策中的区分性特征。我们通过在包括 ImageNet 在内的两个数据集上评估若干 LAP 扩展模型验证了上述主张。所提框架相比常用的白盒解释器方法，提供了更有效、人类可理解且忠实于模型的解释。
引用
@article{arxiv.2201.11808,
title = {LAP: An Attention-Based Module for Concept Based Self-Interpretation and Knowledge Injection in Convolutional Neural Networks},
author = {Rassa Ghavami Modegh and Ahmad Salimi and Alireza Dizaji and Hamid R. Rabiee},
journal= {arXiv preprint arXiv:2201.11808},
year = {2023}
}