因果可靠的概念瓶颈模型
机器学习
2026-02-03 v4 人工智能
摘要
基于概念的模型是深度学习中一种新兴范式，它将推理过程约束为通过人类可解释的变量进行操作，从而促进可解释性和人机交互。然而，这些架构与流行的不透明神经网络模型一样，未能考虑数据中表征目标现象的真实因果机制。这削弱了它们支持因果推理任务的能力，限制了分布外泛化，并阻碍了公平性约束的实施。为克服这些问题，我们提出了因果可靠的概念瓶颈模型（Causally Reliable Concept Bottleneck Models, CBMs），这是一类基于概念的架构，通过按照现实世界因果机制模型结构化的概念瓶颈来强制推理。我们还引入了一条从观测数据和非结构化背景知识（如科学文献）自动学习该结构的流水线。实验证据表明，与标准不透明模型和基于概念的模型相比，CBMs更具可解释性、因果可靠性更高，且对干预的响应更好，同时保持了其准确性。
引用
@article{arxiv.2503.04363,
title = {Causally Reliable Concept Bottleneck Models},
author = {Giovanni De Felice and Arianna Casanova Flores and Francesco De Santis and Silvia Santini and Johannes Schneider and Pietro Barbiero and Alberto Termine},
journal= {arXiv preprint arXiv:2503.04363},
year = {2026}
}
备注
Accepted at NeurIPS 2025