尖峰是否保护隐私？关于黑盒模型反演攻击的脉冲神经网络研究

随着机器学习模型在安全敏感应用中的普及，关于数据泄露来自对抗攻击的担忧持续上升。模型反演（MI）攻击通过模型输出重建训练数据，构成重大的隐私威胁。虽然针对人工神经网络（ANN）的MI攻击已广泛研究，但脉冲神经网络（SNN）在此背景下仍鲜有探索。由于其事件驱动和离散计算，SNN在信息处理方面引入根本性差异，可能提供对此类攻击的内在抵抗。一个关键且鲜有人探索的威胁方面在于黑盒场景，即攻击者通过查询操作而无需直接访问模型参数或梯度——这更贴近实际部署系统的对抗情景。本文首次研究了SNN的黑盒MI攻击。我们采用包含基于速率编码的输入转换和解码机制的生成对抗网络MI框架适应脉冲领域。我们的结果表明，SNN对MI攻击的抵抗力显著高于ANN，体现在重建质量下降、攻击收敛不稳定以及整体攻击有效性降低等方面。进一步分析表明，SNN决策边界的离散性和时序分布性质扰乱了代理建模，限制了攻击者对目标模型的逼近能力。