基于无监督表示学习的实用纵向联邦学习
密码学与安全
2022-08-31 v1 机器学习
摘要
随着近期社会对数据隐私的关注增加，我们见证了各类应用中多方之间的数据孤岛现象。联邦学习作为一种新的学习范式应运而生，使多方能够在不共享原始数据的情况下协同训练机器学习模型。纵向联邦学习中，每方拥有同一组样本的不同特征且仅有单方拥有标签，是联邦学习中一个重要且具挑战性的课题。不同方之间的通信成本一直是实用纵向学习系统的主要障碍。本文提出一种名为 FedOnce 的新型通信高效纵向联邦学习算法，其仅需各方间一次通信。为提升模型精度并提供隐私保障，FedOnce 具备联邦设定下的无监督学习表示以及基于矩 accountant（moments accountant）的隐私保护技术。在 10 个数据集上的综合实验表明，FedOnce 以低得多的通信成本取得了与 SOTA 纵向联邦学习算法相近的性能。同时，在相同隐私预算下，我们的隐私保护技术显著优于 SOTA 方法。
引用
@article{arxiv.2208.10278,
title = {Practical Vertical Federated Learning with Unsupervised Representation Learning},
author = {Zhaomin Wu and Qinbin Li and Bingsheng He},
journal= {arXiv preprint arXiv:2208.10278},
year = {2022}
}