可信概念瓶颈模型用于认识不确定性分解
人工智能
2026-04-28 v1
摘要
概念瓶颈模型 (CBM) 通过人类可解释的概念进行预测，但通常输出点概念概率，这会混合认识不确定性 (可降低模型欠规范化) 与 aleatoric 不确定性 (不可降低的输入歧义)。这使得概念层面的不确定性难以解释，更重要的是难以行动。我们引入 CREDENCE (Credal Ensemble Concept Estimation)，一个分解概念不确定性的 CBM 框架。CREDENCE 将每个概念表示为可信预测 (概率区间)，从 diverse concept heads 的 disagreement 中推导认识不确定性，并通过专门的歧义输出估计 aleatoric 不确定性，以匹配可用注释员的 disagreement。 resulting signals 支持 prescription 决策：自动化 low-uncertainty 案例，为 high-认识 案例收集数据，路由 high-aleatoric 案例给人工审核，当两者都高时拒绝。在多个任务上，我们展示，认识不确定性与预测误差正相关，而 aleatoric 不确定性 closely tracks 注释员 disagreement，为 error correlation 提供指导。我们的实现已在以下链接提供：https://github.com/Tankiit/Credal_Sets/tree/ensemble-credal-cbm
引用
@article{arxiv.2604.24170,
title = {Credal Concept Bottleneck Models for Epistemic-Aleatoric Uncertainty Decomposition},
author = {Tanmoy Mukherjee and Thomas Bailleux and Pierre Marquis and Zied Bouraoui},
journal= {arXiv preprint arXiv:2604.24170},
year = {2026}
}