LabObf：基于标签遮蔽的垂直联邦学习标签保护方案
机器学习
2024-07-23 v2 密码学与安全
摘要
分割神经网络作为垂直联邦学习中最常用的架构之一，因其隐私保护特性在工业界受到欢迎。在该架构中，持有标签的方希望由于缺乏特征数据而寻求来自其他方的合作以提高模型性能。每个参与方都有自定义的底部模型，用于从自身特征数据中学习隐藏表示，并将嵌入向量上传给由标签持有方控制的顶部模型进行最终预测。这种设计允许参与方在不直接交换数据的情况下进行联合训练。然而，现有研究指出，恶意参与方可能仍可从上传的嵌入向量中推断标签信息，导致隐私泄露。本文首先提出一种嵌入扩展攻击，通过操控嵌入来破坏现有防御策略，这些策略依赖于约束上传嵌入与标签之间的相关性。随后，我们提出一种新的标签遮蔽防御策略，称为 LabObf，它随机将每个原始整数标签映射到多个实值软标签，其值交错置换，显著增加攻击者推断标签的难度。我们在四种不同类型的数据集上进行实验，结果表明，LabObf 在降低攻击者成功率方面显著优于原始模型，同时保持良好的模型准确性。
引用
@article{arxiv.2405.17042,
title = {LabObf: A Label Protection Scheme for Vertical Federated Learning Through Label Obfuscation},
author = {Ying He and Mingyang Niu and Jingyu Hua and Yunlong Mao and Xu Huang and Chen Li and Sheng Zhong},
journal= {arXiv preprint arXiv:2405.17042},
year = {2024}
}