面向垂直联邦学习的隐私保障标签取消：无泄露的少样本忘却
机器学习
2026-03-02 v4 密码学与安全
计算机视觉与模式识别
摘要
本文解决垂直联邦学习（VFL）中标签取消的关键挑战，这一设定受到的注意远不如其水平对等版本。具体而言，我们提出首个针对 VFL 中的标签取消的方法，标签在此既是essential 输入，又是敏感信息。为此，我们采用表示级别的混合掩码机制生成用于 unlearned 和 retained 样本的合成嵌入，以提供后续基于梯度的标签忘却和恢复步骤的更丰富信号。这些增强嵌入随后接受基于梯度的标签忘却，从而有效从模型中移除相关标签信息。为恢复 retained 数据上的性能，我们引入一个恢复阶段的优化步骤，以精炼剩余嵌入。此设计实现了在保持计算效率的同时有效的标签忘却。我们在多样化数据集上进行大量实验，包括 MNIST、CIFAR-10、CIFAR-100、ModelNet、脑肿瘤 MRI、COVID-19 胸片以及 Yahoo Answers，证明了方法的强大效力和可扩展性。总体而言，本工作为 VFL 中的 unlearning 领域开辟了新方向，表明重新构想混合掩码作为高效机制可实现实用且保持实用性的忘却。代码已公开于 https://github.com/bryanhx/Towards-Privacy-Guaranteed-Label-Unlearning-in-Vertical-Federated-Learning。
引用
@article{arxiv.2410.10922,
title = {Towards Privacy-Guaranteed Label Unlearning in Vertical Federated Learning: Few-Shot Forgetting without Disclosure},
author = {Hanlin Gu and Hong Xi Tae and Lixin Fan and Chee Seng Chan},
journal= {arXiv preprint arXiv:2410.10922},
year = {2026}
}
备注
Accepted at ICLR2026. This paper introduces the first method for label unlearning in vertical federated learning (VFL), focused on preventing label leakage by the active party