MCPNet：通过多级概念原型实现的可解释分类器
计算机视觉与模式识别
2024-04-24 v3 机器学习
摘要
事后可解释方法和固有可解释方法的最新进展显著增强了对黑盒分类器模型的解释。这些方法通过事后分析或在模型训练期间整合概念学习来运作。尽管在弥合模型潜在空间与人类解释之间的语义鸿沟方面有效，但这些解释方法仅部分揭示了模型的决策过程。结果通常局限于从最后一个特征图导出的高级语义。我们认为，缺乏对低层和中层特征决策过程洞察的解释既不完全忠实也不有用。为解决这一差距，我们引入了多级概念原型分类器（MCPNet），一种固有可解释模型。MCPNet使用中心核对齐（CKA）损失和基于能量的加权PCA机制，在多个特征图级别自主学习有意义的概念原型，且无需依赖预定义的概念标签。此外，我们提出了一种新颖的分类器范式，通过类感知概念分布（CCD）损失来学习和对齐多级概念原型分布以进行分类。我们的实验表明，我们提出的MCPNet在适应各种模型架构的同时，提供了全面的多级解释，同时保持了分类准确性。此外，其基于概念分布的分类方法在少样本分类场景中显示出改进的泛化能力。
引用
@article{arxiv.2404.08968,
title = {MCPNet: An Interpretable Classifier via Multi-Level Concept Prototypes},
author = {Bor-Shiun Wang and Chien-Yi Wang and Wei-Chen Chiu},
journal= {arXiv preprint arXiv:2404.08968},
year = {2024}
}
备注
Accepted by CVPR 2024