PrivEdge：从本地到分布式的隐私保护训练与预测
密码学与安全
2020-04-14 v1 机器学习
摘要
机器学习即服务（MLaaS）运营商在云端提供模型训练与预测。MLaaS 应用通常依赖于用户数据的集中收集与聚合，在处理敏感个人数据时可能导致显著的隐私问题。为解决此问题，我们提出 PrivEdge，一种用于隐私保护 MLaaS 的技术，保障提供数据用于训练的用户以及使用预测服务的用户的隐私。借助 PrivEdge，每个用户独立使用其私有数据在本地训练一个单类重构对抗网络，该网络简洁地表示其训练数据。由于以明文将模型参数发送给服务提供商会泄露隐私信息，PrivEdge 将两个非共谋的 MLaaS 提供商之间的参数进行秘密共享，进而通过安全多方计算技术提供加密的隐私保护预测服务。我们量化了 PrivEdge 的优势，并在三个隐私敏感的图像任务上将其性能与最先进的集中式架构进行比较：个体识别、书写者识别和手写字母识别。实验结果表明，PrivEdge 在保护隐私以及区分私有与非私有图像方面具有高精度与高召回率。此外，我们展示了 PrivEdge 对图像压缩和有偏训练数据的鲁棒性。源代码可在 https://github.com/smartcameras/PrivEdge 获取。
引用
@article{arxiv.2004.05574,
title = {PrivEdge: From Local to Distributed Private Training and Prediction},
author = {Ali Shahin Shamsabadi and Adria Gascon and Hamed Haddadi and Andrea Cavallaro},
journal= {arXiv preprint arXiv:2004.05574},
year = {2020}
}
备注
IEEE Transactions on Information Forensics and Security (TIFS)