MixNN：通过混合神经网络层保护联邦学习免受推理攻击
机器学习
2024-03-04 v1 密码学与安全
摘要
机器学习（ML）已成为提供学习模型以执行复杂任务的核心技术。在机器学习即服务（MLaaS）的推动下，依赖 ML 功能的应用数量持续增长。然而，ML 模型因来自不同实体的被动或主动攻击而成为多种隐私泄露的源头。本文提出 MixNN，一种基于代理的隐私保护联邦学习系统，用于保护参与者隐私，抵御试图推断敏感属性的好奇或恶意聚合服务器。MixNN 接收参与者的模型更新，并在参与者之间混合层，然后将混合后的更新发送至聚合服务器。该混合策略在毫无效用折损的情况下大幅降低隐私风险。事实上，混合模型更新对服务器计算的更新聚合结果毫无影响。我们通过实验评估 MixNN，并设计了一种新的属性推理攻击 Sim，利用 SGD 算法的隐私漏洞来量化不同设定下的隐私泄露（即聚合服务器可发起被动或主动攻击）。我们表明，与使用噪声梯度（已知会损害效用）的基线相比，MixNN 在保持与经典联邦学习同等效用的同时，显著限制了属性推理。
引用
@article{arxiv.2109.12550,
title = {MixNN: Protection of Federated Learning Against Inference Attacks by Mixing Neural Network Layers},
author = {Antoine Boutet and Thomas Lebrun and Jan Aalmoes and Adrien Baud},
journal= {arXiv preprint arXiv:2109.12550},
year = {2024}
}