黑箱模型干预：用于增强人类神经网络相互理解的概念瓶颈模型
计算机视觉与模式识别
2025-09-25 v3 人机交互
机器学习
摘要
深度学习的近期进展导致模型日益复杂，层数深且参数众，降低可解释性，使决策难以理解。虽许多方法试图解释黑箱推理，但大多缺乏有效干预，或仅在样本层面工作，不实际修改模型本身。为此，我们提出概念瓶颈模型以增强人类-神经网络相互理解（CBM-HNMU）。CBM-HNMU以概念瓶颈模型（CBM）为可解释框架，模拟黑箱推理并传递概念理解。通过全局梯度贡献自动识别并优化有害概念（移除/替换）。修正后的CBM随后将纠正知识蒸馊回黑箱模型，提升可解释性与准确性。我们在多种CNN与transformer模型上评估CBM-HNMU，分别测试于Flower-102、CIFAR-10、CIFAR-100、FGVC-Aircraft及CUB-200数据集，最高准确率提升2.64%，平均准确率提升最高达1.03%。源代码已公开：https://github.com/XiGuaBo/CBM-HNMU
引用
@article{arxiv.2506.22803,
title = {Intervening in Black Box: Concept Bottleneck Model for Enhancing Human Neural Network Mutual Understanding},
author = {Nuoye Xiong and Anqi Dong and Ning Wang and Cong Hua and Guangming Zhu and Lin Mei and Peiyi Shen and Liang Zhang},
journal= {arXiv preprint arXiv:2506.22803},
year = {2025}
}
备注
Accepted by ICCV 2025