SL-CBM：通过语义局部性增强概念瓶颈模型的可解释性
人工智能
2026-01-21 v1 机器学习
摘要
可解释人工智能(XAI)对于构建透明且可信的机器学习系统至关重要，尤其是在高风险领域。概念瓶颈模型(CBM)作为一种有前景的事前方法出现，通过显式建模人类可理解的概念来提供可解释的、概念级别的解释。然而，现有的CBM通常存在局部性忠实度差的问题，无法将概念与有意义的图像区域在空间上对齐，这限制了它们的可解释性和可靠性。在这项工作中，我们提出了SL-CBM（具有语义局部性的CBM），一种通过生成概念和类别级别上空间一致的显著性图来强制实现局部性忠实度的新颖扩展。SL-CBM集成了一个1x1卷积层与一个交叉注意力机制，以增强概念、图像区域和最终预测之间的对齐。与先前方法不同，SL-CBM产生与模型内部推理固有联系的忠实显著性图，从而促进更有效的调试和干预。在图像数据集上的大量实验表明，SL-CBM在保持竞争性分类准确率的同时，显著提高了局部性忠实度、解释质量和干预效果。我们的消融研究强调了对比度和基于熵的正则化对于平衡准确性、稀疏性和忠实度的重要性。总体而言，SL-CBM弥合了基于概念的推理与空间可解释性之间的差距，为可解释和可信的概念模型树立了新标准。
引用
@article{arxiv.2601.12804,
title = {SL-CBM: Enhancing Concept Bottleneck Models with Semantic Locality for Better Interpretability},
author = {Hanwei Zhang and Luo Cheng and Rui Wen and Yang Zhang and Lijun Zhang and Holger Hermanns},
journal= {arXiv preprint arXiv:2601.12804},
year = {2026}
}