面向稳健可靠概念表示：可靠性增强概念嵌入模型
计算机视觉与模式识别
2025-02-04 v1
摘要
概念瓶颈模型（CBM）旨在通过预测人类可理解的概念作为决策的中间环节来增强可解释性。然而，这些模型常常面临确保可靠概念表示的挑战，这些挑战可能传播到下游任务并削弱鲁棒性，尤其是在分布迁移的情况下。两个内在问题导致概念不可靠：一是对与概念无关的特征（例如背景变化）敏感，二是缺乏对相同概念在不同样本间的语义一致性。为此，我们提出了可靠性增强概念嵌入模型（RECEM），该模型采用两种策略：概念层级解缠以分离无关特征与概念相关信息，以及概念混合（Concept Mixup）机制以确保跨样本的语义对齐。这两种机制共同作用，提高了概念的可靠性，使模型能够专注于有意义的物体属性并生成忠实的概念表示。实验结果表明，RECEM在多个数据集上 consistently 优于现有基线方法，在背景和域迁移情况下的性能表现尤为出色。这些发现凸显了解缠和对齐策略在增强CBM的可靠性和鲁棒性方面的有效性。
引用
@article{arxiv.2502.01191,
title = {Towards Robust and Reliable Concept Representations: Reliability-Enhanced Concept Embedding Model},
author = {Yuxuan Cai and Xiyu Wang and Satoshi Tsutsui and Winnie Pang and Bihan Wen},
journal= {arXiv preprint arXiv:2502.01191},
year = {2025}
}