基于视觉概念过滤的概念瓶颈模型用于可解释医学图像分类

可解释性是构建可靠模型以用于各类医学应用中的关键因素。概念瓶颈模型（CBMs）通过利用人类可理解的概念作为中间目标，实现可解释的图像分类。不同于需要大量人力构建概念集的传统方法，近期利用大语言模型（LLMs）生成概念的工作使自动概念生成成为可能。然而，这些方法未考虑概念是否具有视觉相关性，而这是计算有意义概念得分的重要因素。因此，我们提出一种视觉激活分数，用以衡量概念是否包含视觉线索，其可利用无标签图像数据轻松计算。计算得到的视觉激活分数随后用于过滤掉可见性较低的概念，从而得到由具有视觉意义概念构成的最终概念集。我们的实验结果表明，采用所提出的视觉激活分数进行概念过滤相比基线一致地提升了性能。此外，定性分析也验证了利用视觉激活分数能成功筛选出视觉相关概念。