基于GAN的纵向联邦学习用于二分类中的标签保护
机器学习
2023-05-18 v2
摘要
分割学习(splitNN)已成为解决纵向联邦学习(VFL)中高计算成本和低建模效率问题的流行策略。然而,尽管分割学习很受欢迎,但普通的分割学习缺乏加密保护,使其容易受到隐私泄露问题的影响,尤其是来自梯度的标签泄露(LLG)。受训练期间使用标签所导致的LLG问题启发,我们提出了生成对抗联邦模型(GAFM),这是一种通过将分割学习与生成对抗网络(GAN)相结合来专门增强标签隐私保护的新方法。GAFM利用GAN通过学习标签分布而非依赖显式标签来间接利用标签信息,从而缓解LLG。GAFM还采用了一个基于噪声标签的额外交叉熵损失,以进一步提高预测精度。我们的消融实验表明,GAN和交叉熵损失组件的结合对于使GAFM在不显著损害模型效用的情况下缓解LLG是必要的。在多个数据集上的实证结果表明,与所有基线方法相比,GAFM在多次随机运行中实现了更好且更稳健的模型效用与隐私之间的权衡。此外,我们提供了实验论证来证实GAFM相对于分割学习的优越性,证明它通过相对于分割学习的梯度扰动提供了增强的标签保护。
引用
@article{arxiv.2302.02245,
title = {GAN-based Vertical Federated Learning for Label Protection in Binary Classification},
author = {Yujin Han and Leying Guan},
journal= {arXiv preprint arXiv:2302.02245},
year = {2023}
}