回归设定下针对拆分学习的标签推断攻击
密码学与安全
2023-04-10 v2 机器学习
摘要
作为纵向联邦学习(vFL)的关键组成部分,拆分学习(SL)已在双方模型训练协作中展现其实践价值,其中一方持有数据样本的特征,另一方持有相应标签。该方法被认为具有隐私性,因为共享信息仅为嵌入向量与梯度,而非私有原始数据与标签。然而,近期一些工作表明私有标签可能通过梯度泄露。这些已有攻击仅在分类设定下有效,其中私有标签是离散的。在本工作中,我们进一步研究回归模型场景中的泄露问题,其中私有标签为连续数值(而非分类中的离散标签)。由于输出范围无界,先前的攻击更难推断连续标签。为克服该局限,我们提出一种新颖的基于学习的攻击,其在模型训练特性方面融合梯度信息与额外的学习正则化目标,从而能在回归设定下有效推断标签。在多种数据集与模型上的综合实验证明了我们所提攻击的有效性。希望我们的工作能为未来使 vFL 框架更安全的分析铺平道路。
引用
@article{arxiv.2301.07284,
title = {Label Inference Attack against Split Learning under Regression Setting},
author = {Shangyu Xie and Xin Yang and Yuanshun Yao and Tianyi Liu and Taiqing Wang and Jiankai Sun},
journal= {arXiv preprint arXiv:2301.07284},
year = {2023}
}
备注
9 pages