BadVFL：纵向联邦学习中的后门攻击
机器学习
2023-08-25 v2 密码学与安全
摘要
联邦学习(FL)使多方能够在不共享数据的情况下协作训练机器学习模型；相反，他们在本地训练自己的模型，并将更新发送到中央服务器进行聚合。根据数据在参与者之间的分布方式，FL可分为横向(HFL)和纵向(VFL)。在VFL中，参与者共享同一组训练样本，但仅持有整个特征空间的不同且不重叠的子集。而在HFL中，每个参与者共享同一组特征，而训练集被划分为本地拥有的训练数据子集。VFL正日益应用于金融欺诈检测等场景；然而，分析其安全性的工作极少。本文关注VFL中的鲁棒性，特别是后门攻击，即攻击者试图在训练过程中操纵聚合模型以触发误分类。在VFL中实施后门攻击比在HFL中更具挑战性，因为攻击者i)在训练期间无法访问标签，且ii)不能更改标签，因为她只能访问特征嵌入。我们提出了VFL中一种首创的无毒标签后门攻击，其包含两个阶段：标签推断阶段与后门阶段。我们在三个不同数据集上展示了该攻击的有效性，研究了其成功涉及的相关因素，并讨论了减轻其影响的对策。
引用
@article{arxiv.2304.08847,
title = {BadVFL: Backdoor Attacks in Vertical Federated Learning},
author = {Mohammad Naseri and Yufei Han and Emiliano De Cristofaro},
journal= {arXiv preprint arXiv:2304.08847},
year = {2023}
}
备注
Accepted for publication at the 45th IEEE Symposium on Security & Privacy (S&P 2024). Please cite accordingly