神经形态架构是否天然具有隐私保护特性？一项探索性研究
机器学习
2025-02-24 v2 密码学与安全
神经与进化计算
摘要
虽然机器学习（ML）模型正变得主流，尤其是在敏感应用领域，但数据泄露的风险已成为一个日益令人担忧的问题。成员推断（MIA）等攻击表明，训练后的模型可以揭示敏感数据，危及机密性。虽然传统人工神经网络（ANNs）主导ML应用，但神经形态架构，特别是脉冲神经网络（SNNs），因其低功耗和事件驱动处理（类似于生物神经元）而作为有前景的替代方案出现。ANN中的隐私已被广泛研究；然而，很少有工作探讨SNN的隐私保护特性。本文探讨SNN是否天然提供更好的隐私保护。我们使用MIA评估SNN与ANN在多样化数据集上的隐私恢复力。我们分析了学习算法（代理梯度和进化算法）、框架（snnTorch、TENNLab、LAVA）和参数对SNN隐私的影响。我们的发现表明，SNN在隐私保护方面始终优于ANN，进化算法提供了额外的鲁棒性。例如，在CIFAR-10上，SNN的AUC为0.59，显著低于ANN的0.82；在CIFAR-100上，SNN保持AUC为0.58，而ANN为0.88。此外，我们探讨了与差分随机梯度下降（DPSGD）相关的隐私-效用权衡，发现SNN在类似隐私约束下比ANN承受更小的精度损失。
引用
@article{arxiv.2411.06613,
title = {Are Neuromorphic Architectures Inherently Privacy-preserving? An Exploratory Study},
author = {Ayana Moshruba and Ihsen Alouani and Maryam Parsa},
journal= {arXiv preprint arXiv:2411.06613},
year = {2025}
}