信念概念瓶颈模型：认知不确定性与偶然不确定性的结构分离
机器学习
2026-02-13 v1 人工智能
摘要
将预测不确定性分解为认知（模型无知）和偶然（数据歧义）成分是可靠决策的核心，然而大多数方法都是从相同的预测分布中估计两者。最近的实证和理论结果表明，这些估计通常高度相关，因此预测分布的变化会同时影响两个成分并模糊其语义。我们提出了一种信念集（credal-set）公式，其中不确定性被表示为一组预测分布，使得认知不确定性和偶然不确定性对应于不同的几何属性：集合的大小与其元素内部的噪声。我们通过一个变分信念概念瓶颈模型实例化这一思想，该模型具有两个不相交的不确定性头，通过不相交的目标和非重叠的梯度路径进行训练，从而通过构造而非事后分解实现分离。在多标注者基准测试中，与标准方法相比，我们的方法将认知不确定性和偶然不确定性之间的相关性降低了一个数量级以上，同时改善了认知不确定性与预测误差的对齐以及偶然不确定性与真实歧义的对齐。
引用
@article{arxiv.2602.11219,
title = {Credal Concept Bottleneck Models: Structural Separation of Epistemic and Aleatoric Uncertainty},
author = {Tanmoy Mukherjee and Marius Kloft and Pierre Marquis and Zied Bouraoui},
journal= {arXiv preprint arXiv:2602.11219},
year = {2026}
}