面向概念瓶颈模型的自适应测试时干预
机器学习
2025-04-15 v2
摘要
概念瓶颈模型旨在通过在深度学习模型架构内的瓶颈处预测人类级别的“概念”来提升模型可解释性。然而，预测的概念在预测目标时的使用方式要么仍是黑盒，要么为了维持可解释性而被简化，从而牺牲了预测性能。我们提出使用快速可解释贪婪求和树来获得二元蒸馏。这种名为 FIGS-BD 的新方法，将 CBM 中从概念到目标的二元增强部分蒸馏为可解释的基于树的模型，同时保持了 CBM 教师模型具有竞争力的预测性能。FIGS-BD 可用于下游任务，以解释 CBM 预测并将其分解为可解释的二元概念交互归因，从而指导自适应测试时干预。在 4 个数据集上，我们证明了我们的自适应测试时干预能够识别出关键概念，在仅允许有限概念干预的现实人机协同场景中显著提升了性能。
引用
@article{arxiv.2503.06730,
title = {Adaptive Test-Time Intervention for Concept Bottleneck Models},
author = {Matthew Shen and Aliyah Hsu and Abhineet Agarwal and Bin Yu},
journal= {arXiv preprint arXiv:2503.06730},
year = {2025}
}