差分隐私纵向联邦学习

成功的机器学习（ML）算法往往依赖大量高质量数据来训练性能良好的模型。监督学习方法（如深度学习技术）为实际应用生成高质量 ML 函数，但标注训练数据需高昂成本与人力。联邦学习（FL）近期的进展允许多个数据拥有者或组织在不共享原始数据的情况下协作训练机器学习模型。就此，纵向 FL 在组织具有垂直划分数据时构建全局模型。此外，在纵向 FL 设定中，参与组织通常比直接共享数据所需资源更少，从而实现轻量且可扩展的分布式训练方案。然而，由于中间输出与模型更新梯度的通信，纵向 FL 中的隐私保护具挑战性。这引致敌手实体推断其他组织的底层数据。因此，本文旨在探索如何在差分隐私（DP）设定中保护个体组织数据的隐私。我们使用不同真实世界数据集与 DP 预算运行实验。实验结果表明，需要在纵向 FL 性能与隐私保护之间就扰动噪声量找到权衡点以实现平衡。