联邦学习中的隐私保护：基于 GDPR 视角的深入综述
密码学与安全
2021-03-19 v5 人工智能
机器学习
摘要
随着基于 AI 与机器学习的应用和服务蓬勃发展，数据隐私与安全已成为关键挑战。传统上，数据被收集并聚合于数据中心，机器学习模型在其上训练。这种集中式方法给个人数据泄露、误用与滥用带来了严重隐私风险。此外，在物联网与大数据时代，数据本质上是分布的，将海量数据传输至数据中心处理似乎是一种繁琐的方案。这不仅因为跨数据源传输与共享数据的困难，也因为遵守严格的数据保护法规与繁杂行政程序（如欧盟《通用数据保护条例》(GDPR)）的挑战。对此，联邦学习（FL）作为一种前景广阔的方案应运而生，它在自然符合 GDPR 的同时，促进不披露原始训练数据的分布式协作学习。近期研究表明，在 FL 中将数据与计算保留于设备端不足以保障隐私。这是因为 FL 系统中各方交换的 ML 模型参数仍隐藏敏感信息，可被某些隐私攻击所利用。因此，FL 系统须由高效的隐私保护技术赋能以符合 GDPR。本文致力于以系统化方式综述可应用于 FL 的先进隐私保护技术，以及这些技术如何缓解数据安全与隐私风险。此外，我们基于 GDPR 监管指南，就 FL 系统为合规所应实施的挑战与前瞻方法提供见解。
引用
@article{arxiv.2011.05411,
title = {Privacy Preservation in Federated Learning: An insightful survey from the GDPR Perspective},
author = {Nguyen Truong and Kai Sun and Siyao Wang and Florian Guitton and Yike Guo},
journal= {arXiv preprint arXiv:2011.05411},
year = {2021}
}
备注
21 pages, 8 figures, 2 tables