KDk：纵向联邦学习中针对标签推断攻击的防御机制
机器学习
2025-01-27 v1 密码学与安全
摘要
纵向联邦学习是联邦学习的一种，其中模型在具有垂直划分数据的各方之间协作训练。通常，在纵向联邦学习场景中，样本的标签对所有参与方保密，除了聚合服务器，即标签所有者。然而，最近的研究发现，通过利用服务器返回给底层模型的梯度信息，仅凭对非常有限的训练数据点子集上的少量辅助标签的了解，攻击者可以推断出私有标签。这些攻击被称为纵向联邦学习中的标签推断攻击。在我们的工作中，我们提出了一个名为KDk的新框架，该框架结合了知识蒸馏和k-匿名性，以在纵向联邦学习场景中提供针对潜在标签推断攻击的防御机制。通过详尽的实验活动，我们证明应用我们的方法后，所分析的标签推断攻击的性能持续下降，甚至超过60%，同时保持整个纵向联邦学习的准确性几乎不变。
引用
@article{arxiv.2404.12369,
title = {KDk: A Defense Mechanism Against Label Inference Attacks in Vertical Federated Learning},
author = {Marco Arazzi and Serena Nicolazzo and Antonino Nocera},
journal= {arXiv preprint arXiv:2404.12369},
year = {2025}
}