回归设定下分拆学习中防御标签推断攻击
机器学习
2023-08-21 v1 密码学与安全
摘要
作为实现纵向联邦学习的一种隐私保护方法,分拆学习已被广泛研究。然而,大量研究表明分拆学习的隐私保护能力尚不充分。在本文中,我们主要关注回归设定下分拆学习中的标签推断攻击,其主要通过梯度反演方法实现。为防御标签推断攻击,我们提出随机标签扩展(RLE),将标签进行扩展以混淆梯度中所包含的标签信息,从而阻止攻击者利用梯度训练可推断原始标签的攻击模型。为进一步最小化对原始任务的影响,我们提出基于模型的自适应标签扩展(MLE),其中原始标签被保留在扩展标签中并在训练过程中占主导地位。实验结果表明,与基础防御方法相比,我们提出的防御方法能在保持原始任务性能的同时显著降低攻击模型的性能。
引用
@article{arxiv.2308.09448,
title = {Defending Label Inference Attacks in Split Learning under Regression Setting},
author = {Haoze Qiu and Fei Zheng and Chaochao Chen and Xiaolin Zheng},
journal= {arXiv preprint arXiv:2308.09448},
year = {2023}
}