基于深度网络剪枝的隐私保护学习
机器学习
2020-03-05 v1 密码学与安全
机器学习
摘要
本文试图回答神经网络剪枝能否作为一种在不损失过多数据效用的前提下实现差分隐私的工具这一问题。作为理解神经网络剪枝与差分隐私关系的第一步，本文证明对神经网络给定层进行剪枝等价于向其隐藏层激活添加一定量的差分隐私噪声。本文还给出实验结果，展示了该理论发现在实际中的含义以及简单实际设定下的关键参数值。这些结果表明，对神经网络而言，神经网络剪枝可以是比添加差分隐私噪声更有效的替代方案。
引用
@article{arxiv.2003.01876,
title = {Privacy-preserving Learning via Deep Net Pruning},
author = {Yangsibo Huang and Yushan Su and Sachin Ravi and Zhao Song and Sanjeev Arora and Kai Li},
journal= {arXiv preprint arXiv:2003.01876},
year = {2020}
}