脉冲神经网络梯度稀疏轨迹驱动的精度-鲁棒性权衡
神经与进化计算
2025-12-04 v3 人工智能
计算机视觉与模式识别
摘要
脉冲神经网络（SNN）因固有的能效优势和紧凑的内存占用，在计算神经科学和人工智能领域引起了日益增长的兴趣。然而，在 SNN 中实现对抗鲁棒性（尤其是面向视觉相关任务）仍然是一个新兴且探索不足的挑战。近期研究提出利用稀疏梯度作为正则化手段以增强对抗扰动的鲁棒性。在本工作中，我们发现了一个令人惊讶的现象：在特定架构配置下，SNN 天然表现出梯度稀疏性，无需任何显式正则化即可达到最先进的对抗防御性能。进一步分析揭示了鲁棒性与泛化之间的权衡：稀疏梯度有助于提升对抗韧性，但可能损害模型的泛化能力；反之，稠密梯度支持更好的泛化，但增加了对攻击的脆弱性。我们的发现为梯度稀疏性在 SNN 训练中的双重角色提供了新见解。
引用
@article{arxiv.2509.23762,
title = {Accuracy-Robustness Trade Off via Spiking Neural Network Gradient Sparsity Trail},
author = {Luu Trong Nhan and Luu Trung Duong and Pham Ngoc Nam and Truong Cong Thang},
journal= {arXiv preprint arXiv:2509.23762},
year = {2025}
}
备注
Work under peer-review