中文

一种利用记录相似性的实用纵向联邦学习耦合设计

机器学习 2023-03-24 v4 密码学与安全

摘要

联邦学习是一种使不同参与方在不暴露原始数据情况下进行协作学习的学习范式。值得注意的是,纵向联邦学习(VFL)中各方共享同一组样本但仅持有部分特征,具有广泛的现实应用。然而,现有VFL研究大多忽视“记录链接”过程。它们设计算法时要么假设来自不同参与方的数据可被精确链接,要么简单地将每条记录与其最相似邻近记录相链接。这些方法可能未能从其他相似度较低的记录中捕获关键特征。此外,这种不当链接无法通过训练纠正,因为现有方法在训练过程中对链接不提供任何反馈。本文中,我们设计了一种新颖的耦合训练范式FedSim,将一对多链接整合进训练过程。除能在具有模糊标识符的众多现实应用中实现VFL外,FedSim在传统VFL任务中也取得更优性能。而且,我们从理论上分析了共享相似性所带来的额外隐私风险。我们在八个数据集上采用多种相似性度量的实验表明,FedSim优于其他当前最优基线。FedSim的代码见 https://github.com/Xtra-Computing/FedSim。

关键词

引用

@article{arxiv.2106.06312,
  title  = {A Coupled Design of Exploiting Record Similarity for Practical Vertical Federated Learning},
  author = {Zhaomin Wu and Qinbin Li and Bingsheng He},
  journal= {arXiv preprint arXiv:2106.06312},
  year   = {2023}
}