BrainLeaks：神经形态架构针对模型反转攻击的隐私保护特性
密码学与安全
2025-03-11 v2 机器学习
神经与进化计算
摘要
随着机器学习主流地集成到医疗和金融等安全敏感领域，对数据隐私的担忧日益加剧。传统人工神经网络（ANN）已被发现易受多种可泄露敏感数据的攻击。特别是，模型反转（MI）攻击能够重建用于训练模型的数据样本。神经形态架构已成为神经计算的一种范式转变，实现了异步和节能的计算。然而，现有工作很少或没有研究神经形态架构针对模型反转的隐私保护。我们的研究源于这样的直觉：脉冲神经网络（SNN）的不可微特性可能带来固有的隐私保护特性，尤其是针对基于梯度的攻击。为了验证这一假设，我们提出了对SNN隐私保护能力的彻底探索。具体地，我们开发了新颖的反转攻击策略，这些策略全面设计用于针对SNN，并与传统ANN对应物进行比较分析。我们在多样化的事件驱动和静态数据集上进行的实验证明了所提出攻击策略的有效性，因此质疑了神经形态架构中固有隐私保护的假设。
引用
@article{arxiv.2402.00906,
title = {BrainLeaks: On the Privacy-Preserving Properties of Neuromorphic Architectures against Model Inversion Attacks},
author = {Hamed Poursiami and Ihsen Alouani and Maryam Parsa},
journal= {arXiv preprint arXiv:2402.00906},
year = {2025}
}
备注
7 pages, 4 figures, 4 tables