PrivateSNN：隐私保护脉冲神经网络
计算机视觉与模式识别
2022-05-24 v3 人工智能
摘要
我们如何为神经系统中带来隐私与能效？本文中，我们提出PrivateSNN，旨在从预训练ANN模型构建低功耗脉冲神经网络（SNNs），且不泄露数据集中包含的敏感信息。在此，我们解决两类泄露问题：1）数据泄露由ANN-SNN转换过程中网络访问真实训练数据引起。2）类泄露由可从网络参数重建的与类相关的特征引起。为解决数据泄露问题，我们从预训练ANN生成合成图像，并使用生成的图像将ANN转换为SNN。然而，转换后的SNN仍易受类泄露影响，因为权重参数相对于ANN参数具有相同（或缩放）的值。因此，我们通过基于时间脉冲的学习规则训练SNN来加密SNN权重。利用时间数据更新权重参数使SNN难以在空间域中被解释。我们观察到，加密的PrivateSNN消除了数据和类泄露问题，且相比标准ANN仅有轻微性能下降（小于约2）和显著的能效提升（约55倍）。我们在包括CIFAR10、CIFAR100和TinyImageNet的多个数据集上进行广泛实验，凸显了隐私保护SNN训练的重要性。
引用
@article{arxiv.2104.03414,
title = {PrivateSNN: Privacy-Preserving Spiking Neural Networks},
author = {Youngeun Kim and Yeshwanth Venkatesha and Priyadarshini Panda},
journal= {arXiv preprint arXiv:2104.03414},
year = {2022}
}
备注
Accepted to AAAI2022