贝叶斯置信传播神经网络的原生可解释性：一个面向可信类脑人工智能的框架
人工智能
2026-05-13 v1
摘要
欧盟《人工智能法案》（法规 2024/1689）自 2026 年 8 月起全面适用于高风险系统，这催生了对同时具备可信性、透明性且能在资源受限的边缘设备上部署的人工智能架构的迫切需求。基于贝叶斯置信传播神经网络（BCPNN）形式体系构建的类脑神经网络，已重新成为反向传播驱动的深度学习的一种可靠替代方案。它们提供了最先进的无监督表示学习、适合神经形态计算的稀疏性，以及面向边缘部署的现有 FPGA 实现。尽管势头强劲，但目前尚无系统性的框架来解释 BCPNN 的决策——本文填补了这一空白。我们认为，按照 Rudin 的“设计即解释”议程，BCPNN 是一种内在透明的模型，其架构原语直接映射到已建立的可解释人工智能（XAI）家族。我们做出了四项贡献。首先，我们提出了首个针对 BCPNN 的 XAI 分类法。它将权重、偏置、超柱后验概率、结构可塑性使用分数、吸引子动力学和输入重建群体映射到归因、原型、概念、反事实和机制解释模式上。其次，我们引入了十六个架构级解释原语（P1–P16），其中一些在标准人工神经网络中没有对应物。我们提供了从模型已维护的量中计算每个原语的闭式算法。第三，我们引入了五个设计时“配置即解释”原语（Config-P1 至 Config-P5），将 BCPNN 超参数选择视为一种可审计的部署前解释工件。第四，我们勾勒了将其集成到工业物联网部署中的路线图，并讨论了与欧盟《人工智能法案》的一致性、边缘可行性以及工业 5.0 的影响。
引用
@article{arxiv.2605.11595,
title = {Native Explainability for Bayesian Confidence Propagation Neural Networks: A Framework for Trusted Brain-Like AI},
author = {Georgios Makridis and Georgios Fatouros and John Soldatos and George Katsis and Dimosthenis Kyriazis},
journal= {arXiv preprint arXiv:2605.11595},
year = {2026}
}
备注
8 pages