深度脉冲神经网络中的成员隐私评估
密码学与安全
2024-10-01 v1 人工智能
摘要
人工神经网络（ANN）通常通过非线性函数模拟神经元并输出浮点数，在数据点的前向时间中始终接收相同的信号。与ANN不同，脉冲神经网络（SNN）在数据点的前向时间内会接收各种输入信号，并以生物学上可信的方式模拟神经元——当神经元的累计膜电位大于阈值时，产生一个脉冲（二进制值）。尽管ANN在多个任务中取得了显著成功，例如人脸识别和目标检测，但SNN最近因其低功耗、快速推理和事件驱动特性而受到关注。虽然ANN的隐私威胁已广泛研究，但针对SNN的工作相对较少。例如，众所周知ANN对成员推断攻击（MIA）极其脆弱，但相同的攻击是否也适用于SNN尚未被探索。本文通过考虑八种MIA（其中七种受ANN攻击方式启发），评估了SNN的成员隐私。我们的评估结果表明，在使用带有时间维度的神经形态数据集训练时，SNN比ANN更脆弱（以平衡攻击准确率计，最大高出10%）。另一方面，在使用不带时间维度的静态数据集训练ANN或SNN时，脆弱性取决于所用数据集。若将使用静态数据集训练的ANN转换为SNN，MIA的准确率会下降（最大下降11.5%，且目标模型的测试准确率下降7.6%）。随后，我们通过进行超参数研究来探讨MIA对SNN的影响因素。最后，我们表明，针对静态数据的基本数据增强方法以及两种最新的针对神经形态数据的增强方法可显著降低SNN上MIA的性能（最大降低25.7%）。
引用
@article{arxiv.2409.19413,
title = {Membership Privacy Evaluation in Deep Spiking Neural Networks},
author = {Jiaxin Li and Gorka Abad and Stjepan Picek and Mauro Conti},
journal= {arXiv preprint arXiv:2409.19413},
year = {2024}
}