针对属性推断攻击的联邦学习任务无关隐私保护表示学习
密码学与安全
2023-12-13 v1
摘要
联邦学习（FL）最近得到了广泛研究，因为它具有在不共享原始数据的情况下协作训练来自不同设备的数据的特性。然而，最近的研究表明，对手仍然有可能推断出有关设备数据的隐私信息，例如收入、种族和性取向等敏感属性。为了缓解属性推断攻击，可以采用或调整各种现有的隐私保护 FL 方法。然而，所有这些现有方法都有其关键局限性：它们需要提前知道 FL 任务，或者具有无法忍受的计算开销或效用损失，或者没有可证明的隐私保证。我们解决了这些问题，并为 FL 设计了一种针对属性推断攻击的任务无关隐私保护表示学习方法（{\bf TAPPFL}）。TAPPFL 是通过信息论来表述的。具体而言，TAPPFL 有两个互信息目标，其中一个目标学习任务无关的数据表示，这些表示包含有关每个设备数据中私有属性的最少信息，另一个目标确保学习到的数据表示包含尽可能多的有关设备数据的信息，以维持 FL 效用。我们还推导了 TAPPFL 针对最坏情况属性推断攻击的隐私保证，以及效用保持和隐私保护之间的内在权衡。在多个数据集和应用上的广泛结果验证了 TAPPFL 在保护数据隐私、维持 FL 效用以及高效性方面的有效性。实验结果还表明，TAPPFL 优于现有的防御方法\footnote{源代码和完整版本：\url{https://github.com/TAPPFL}}。
引用
@article{arxiv.2312.06989,
title = {Task-Agnostic Privacy-Preserving Representation Learning for Federated Learning Against Attribute Inference Attacks},
author = {Caridad Arroyo Arevalo and Sayedeh Leila Noorbakhsh and Yun Dong and Yuan Hong and Binghui Wang},
journal= {arXiv preprint arXiv:2312.06989},
year = {2023}
}
备注
Accepted by AAAI 2024; Full version