理解与提升神经概率电路对对抗鲁棒性的研究
机器学习
2025-09-26 v1 人工智能
摘要
神经概率电路 (NPC) 是一种新型概念瓶颈模型，包含属性识别模型和用于推理的概率电路。通过整合这两个模块的输出，NPC 产生构成性且可解释的预测。虽然 NPC 在下游任务上提供了增强的可解释性和高性能，但基于神经网络的属性识别模型仍是黑盒子。这一漏洞允许对抗攻击通过对输入图像引入精心设计的微小扰动来操控属性预测，从而可能损害最终预测。在本文中，我们对 NPC 的对抗鲁棒性进行了理论分析，证明其仅取决于属性识别模型的鲁棒性，且与概率电路的鲁棒性无关。此外，我们提出了 RNPC，即首个针对识别模块抗对抗攻击的鲁棒神经概率电路。RNPC 引入了一种新颖的类别级集成方式，以确保两个模块输出的鲁棒组合。我们的理论分析表明，RNPC 在对抗鲁棒性方面显著优于 NPC。在图像分类任务中，经验结果显示，RNPC 在对抗鲁棒性方面优于现有的概念瓶颈模型，同时在正常输入上保持高准确率。
引用
@article{arxiv.2509.20549,
title = {Understanding and Improving Adversarial Robustness of Neural Probabilistic Circuits},
author = {Weixin Chen and Han Zhao},
journal= {arXiv preprint arXiv:2509.20549},
year = {2025}
}
备注
NeurIPS 2025 Camera Ready