ExPLoit：在拆分学习中提取私有标签
密码学与安全
2022-04-15 v2 人工智能
机器学习
摘要
拆分学习是一种用于纵向联邦学习（VFL）的流行技术，其目标是基于两方各自持有的私有输入和标签数据联合训练模型。该技术使用拆分模型，通过两方之间交换输入的中间表示（IR）以及 IR 的梯度进行端到端训练。我们提出 ExPLoit——一种标签泄露攻击，使恶意输入方能够在拆分学习过程中提取标签方的私有标签。ExPLoit 通过使用一种新颖的损失函数将攻击构建为一个监督学习问题，该损失函数结合了梯度匹配以及利用数据集和模型的关键性质开发的若干正则化项。我们的评估表明，ExPLoit 能够以高达 99.96% 的接近完美的准确率揭示私有标签。我们的发现强调了 VFL 需要更好的训练技术。
引用
@article{arxiv.2112.01299,
title = {ExPLoit: Extracting Private Labels in Split Learning},
author = {Sanjay Kariyappa and Moinuddin K Qureshi},
journal= {arXiv preprint arXiv:2112.01299},
year = {2022}
}