FACE: 忠实自动概念提取
计算机视觉与模式识别
2025-10-14 v1 人工智能
摘要
通过基于概念的解释来解释深度神经网络, 可在低层特征与高层人类可理解语义之间搭建桥梁。然而, 现有的自动概念发现方法常常无法将这些提取的概念与模型的真实决策过程对齐, 从而损害解释的忠实性。本文提出 FACE (Faithful Automatic Concept Extraction), 一个新型框架, 将非负矩阵分解 (NMF) 增强为 Kullback-Leibler (KL) 散度正则化项, 以确保模型原始预测与概念预测之间的对齐。不同于以往仅在编码器激活上操作的方法, FACE 在概念学习中引入分类器监督, 强制预测一致性, 从而实现忠实的解释。我们提供理论保证, 表明最小化 KL 散度可限制预测分布的偏差, 从而促进所学习概念空间中的局部线性性。在 ImageNet、COCO 和 CelebA 数据集上的系统评估表明, FACE 在忠实性和稀疏性指标上均优于现有方法。
引用
@article{arxiv.2510.11675,
title = {FACE: Faithful Automatic Concept Extraction},
author = {Dipkamal Bhusal and Michael Clifford and Sara Rampazzi and Nidhi Rastogi},
journal= {arXiv preprint arXiv:2510.11675},
year = {2025}
}
备注
39th Conference on Neural Information Processing Systems (NeurIPS 2025)