面向异构差分隐私联邦学习的噪声感知算法

高效用和严格的数据隐私是联邦学习（FL）系统的主要目标，该系统从分布在客户端的数据中学习模型。后者试图通过使用差分隐私联邦学习（DPFL）来实现。客户端隐私要求通常存在异质性，现有的DPFL工作要么假设客户端具有统一的隐私要求，要么在服务器不完全可信（我们的设置）时不适用。此外，客户端的批次大小和/或数据集大小通常存在异质性，这会导致客户端模型更新中DP噪声水平的额外变化。考虑到这些异质性来源，简单的聚合策略（例如，将客户端聚合权重与其隐私参数成比例分配）将导致较低的效用。我们提出Robust-HDP，它能够有效估计客户端模型更新中的真实噪声水平，并显著降低聚合模型更新中的噪声水平。Robust-HDP提高了效用和收敛速度，同时对于可能恶意向服务器发送伪造隐私参数的客户端是安全的。在多个数据集上的大量实验结果和我们的理论分析证实了Robust-HDP的有效性。我们的代码可在此处找到。