InstaHide：面向隐私保护分布式学习的实例隐藏方案
密码学与安全
2021-02-25 v2 计算复杂性
数据结构与算法
机器学习
机器学习
摘要
多个分布式实体如何在其私有数据上协作训练共享深度网络的同时保护隐私？本文提出 InstaHide，一种对训练图像进行简单加密的方法，可插入现有的分布式深度学习流程中。该加密效率高，在训练期间应用它对测试精度影响很小。InstaHide 使用“一次性密钥”对每个训练图像进行加密，该密钥由混合若干随机选取的图像并施加随机逐像素掩码组成。本文的其他贡献包括：(a) 在其加密过程中使用大型公共数据集（如 ImageNet）进行混合，从而提高了安全性。(b) 实验结果展示了在已知攻击下保护隐私的有效性，且仅对精度有微小影响。(c) 理论分析表明，成功攻击隐私需要攻击者解决一个困难的计算问题。(d) 证明逐像素掩码的使用对安全性很重要，因为仅使用 Mixup 被证明对某些高效攻击是不安全的。(e) 发布了一个挑战数据集 https://github.com/Hazelsuko07/InstaHide_Challenge 我们的代码可在 https://github.com/Hazelsuko07/InstaHide 获取。
引用
@article{arxiv.2010.02772,
title = {InstaHide: Instance-hiding Schemes for Private Distributed Learning},
author = {Yangsibo Huang and Zhao Song and Kai Li and Sanjeev Arora},
journal= {arXiv preprint arXiv:2010.02772},
year = {2021}
}
备注
ICML 2020