基于数据投毒的数据后门攻击框架针对脉冲神经网络的监督学习规则
密码学与安全
2024-09-25 v1 神经与进化计算
摘要
脉冲神经网络 (SNN)，作为第三代神经网络，因低能耗和高鲁棒性而闻名。SNN 正在快速发展，并在许多领域与人工神经网络 (ANN) 竞争。为确保 SNN 的广泛应用不会引发严重的安全事件，大量研究致力于探索 SNN 在对抗样本攻击下的鲁棒性。然而，其他许多未评估的安全威胁存在，如高度隐蔽的后门攻击。因此，为填补这一研究空白并进一步探索 SNN 的安全漏洞，本文探讨了 SNN 由监督学习规则训练后在后门攻击下的鲁棒性。具体而言，本工作包括：i) 我们提出一个通用的后门攻击框架，可针对现有监督学习规则的训练过程发动攻击，并覆盖所有 SNN 可学习的数据集类型。ii) 我们分析不同学习规则之间以及 SNN 与 ANN 之间的鲁棒性差异，这表明 SNN 在后门攻击下不再具有固有的鲁棒性。iii) 我们揭示了转换依赖学习规则因后门迁移而产生的脆弱性，并进一步分析转换过程中迁移能力，发现后门迁移率甚至可超过 99%。iv) 最终，我们讨论了对抗此类后门攻击的潜在对策及其技术挑战，并指出若干有前景的研究方向。
引用
@article{arxiv.2409.15670,
title = {Data Poisoning-based Backdoor Attack Framework against Supervised Learning Rules of Spiking Neural Networks},
author = {Lingxin Jin and Meiyu Lin and Wei Jiang and Jinyu Zhan},
journal= {arXiv preprint arXiv:2409.15670},
year = {2024}
}