OLIVE：基于可信执行环境的抗稀疏化风险的 oblivious 联邦学习
机器学习
2023-06-21 v5 密码学与安全
摘要
将联邦学习（FL）与可信执行环境（TEE）相结合是实现隐私保护FL的一种有前景的方法，近年来受到学术界的显著关注。在服务器端部署TEE使得每一轮FL能够在不向不可信服务器暴露客户端梯度信息的情况下进行。这解决了现有安全聚合方案的可用性差距以及差分隐私FL的效用差距。然而，为利用TEE解决该问题，需要考虑服务器端TEE的漏洞——这在FL背景下尚未得到充分研究。本研究的主要技术贡献是对FL中TEE的漏洞分析与防御。首先，我们从理论上分析内存访问模式的泄漏，揭示出FL中常用于提升通信效率与模型精度的稀疏化梯度的风险。其次，我们设计了一种推理攻击，将内存访问模式与训练数据集中的敏感信息关联起来。最后，我们提出了一种 oblivious 且高效的聚合算法以防止内存访问模式泄漏。我们在真实数据上的实验表明，所提方法在实际规模下高效运行。
引用
@article{arxiv.2202.07165,
title = {OLIVE: Oblivious Federated Learning on Trusted Execution Environment against the risk of sparsification},
author = {Fumiyuki Kato and Yang Cao and Masatoshi Yoshikawa},
journal= {arXiv preprint arXiv:2202.07165},
year = {2023}
}
备注
This paper is the full version of a paper accepted at VLDB 2023