论脉冲神经网络的隐私风险：成员推理分析
机器学习
2025-06-12 v4 人工智能
摘要
脉冲神经网络因其能效和在真实世界应用中的鲁棒性而受到越来越多的探索，但其隐私风险在很大程度上仍未被研究。在本工作中，我们研究了 SNN 对成员推理攻击的易感性——这是一种主要的隐私威胁，攻击者试图确定给定样本是否属于训练数据集。尽管先前的工作表明，由于其离散、事件驱动的特性，SNN 可能提供固有的鲁棒性，但我们发现随着延迟（T）的增加，其抵抗力会减弱。此外，我们在黑盒设置下引入了一种输入 dropout 策略，显著增强了 SNN 中的成员推理。我们的发现挑战了 SNN 具有固有更高安全性的假设，并且尽管预期它们会更好，我们的结果表明 SNN 表现出与人工神经网络相当程度的隐私漏洞。我们的代码可在 https://github.com/sharmaabhijith/MIA_SNN 获取。
引用
@article{arxiv.2502.13191,
title = {On the Privacy Risks of Spiking Neural Networks: A Membership Inference Analysis},
author = {Junyi Guan and Abhijith Sharma and Chong Tian and Salem Lahlou},
journal= {arXiv preprint arXiv:2502.13191},
year = {2025}
}
备注
14 pages, 6 figures