因果神经概率电路

概念瓶颈模型（CBM）通过引入概念层并从概念预测中预测类别标签，从而增强了端到端神经网络的可解释性。CBM 的一个关键属性是支持干预，即领域专家可以在测试时纠正误预测的概念值以提高最终准确率。然而，典型的 CBM 仅通过覆盖纠正的概念而不改变其他概念预测地应用干预，这忽略了概念之间的因果依赖。为此，我们提出了因果神经概率电路（Causal Neural Probabilistic Circuit，CNPC），它将神经属性预测器与从因果图编译的因果概率电路相结合。该电路支持精确且可计算的因果推断，内在地尊重因果依赖。在干预下，CNPC 基于产品专家（Product of Experts，PoE）构建类分布，融合属性预测器的预测分布与电路计算的干预边缘分布。我们对 CNPC 相对于其模块的组成性干预误差进行了理论特征，并确定了 CNPC 与真实干预类分布几乎一致的条件。在就业数据集上的就业分布和就业分布外的实验结果表明，与五个基线模型相比，CNPC 在不同干预属性数量下实现了更高的任务准确率。