稀疏性能否提升神经网络的隐私性？
密码学与安全
2024-05-27 v2 机器学习
摘要
稀疏神经网络的主要动机是资源效率，因为它们比稠密网络使用更少的参数，但仍能达到可比的准确率。本文通过实证研究探讨稀疏性是否也能改善用于训练网络的数据的隐私性。实验表明，模型的稀疏性、其隐私性及其分类误差之间存在正相关关系。由于与分类误差的额外相关性，简单地比较具有不同稀疏度水平的两个模型的隐私性，可能会对稀疏性的作用得出误导性结论。从这一视角出发，本文对先前研究稀疏性与隐私性的工作提出了一些注意事项。
引用
@article{arxiv.2304.07234,
title = {Can sparsity improve the privacy of neural networks?},
author = {Antoine Gonon and Léon Zheng and Clément Lalanne and Quoc-Tung Le and Guillaume Lauga and Can Pouliquen},
journal= {arXiv preprint arXiv:2304.07234},
year = {2024}
}