通过自适应噪声注入实现推理隐私保护
密码学与安全
2021-04-07 v1 机器学习
机器学习
摘要
面向用户的软件服务日益依赖远程服务器来托管深度神经网络（DNN）模型，这些模型为客户端执行推理任务。此类服务要求客户端将输入数据发送给服务提供商，后者使用DNN处理并返回输出预测。由于图像和语音等输入的丰富性，输入常包含超出执行主要推理任务所需的信息。因此，除主要推理任务外，恶意服务提供商可能从输入推断次要（敏感）属性，损害客户端隐私。我们工作的目标是通过向输入注入噪声以隐藏不利于主要分类任务的无关特征，从而改善推理隐私。为此，我们提出自适应噪声注入（ANI），其在客户端使用轻量DNN向每个输入注入噪声，再传输给服务提供商执行推理。我们的核心见解是，通过针对每个输入定制噪声，可在效用与隐私间实现最先进的权衡（敏感任务准确率下降达48.5%，而主要任务准确率下降<1%），显著优于现有噪声注入方案。我们的方法不需要敏感属性的先验知识，且带来最小计算开销。
引用
@article{arxiv.2104.02261,
title = {Enabling Inference Privacy with Adaptive Noise Injection},
author = {Sanjay Kariyappa and Ousmane Dia and Moinuddin K Qureshi},
journal= {arXiv preprint arXiv:2104.02261},
year = {2021}
}