二进制脉冲神经网络作为因果模型
人工智能
2026-05-01 v1
摘要
我们对二进制脉冲神经网络（BSNN）进行因果分析，以解释其行为。我们正式定义 BSNN 并将其脉冲活动表示为二进制因果模型。凭借这一因果表示，我们能够利用基于逻辑的方法解释网络的输出。特别是，我们展示可以成功地使用 SAT 以及 SMT 求解器从该二进制因果模型中计算诱导解释。为说明 our 方法，我们在标准 MNIST 数据集上训练 BSNN，并应用我们的 SAT 基于方法和 SMT 基于方法来寻找网络分类基于像素水平特征的解释。我们还将找到的解释与流行的可解释 AI 方法 SHAP 进行比较。我们表明，与 SHAP 不同，我们的方法保证所找到的解释不包含完全无关的特征。
引用
@article{arxiv.2604.27007,
title = {Binary Spiking Neural Networks as Causal Models},
author = {Aditya Kar and Emiliano Lorini and Timothée Masquelier},
journal= {arXiv preprint arXiv:2604.27007},
year = {2026}
}