VFLIP：一种用于垂直联邦学习的后门防御方法
机器学习
2024-08-30 v2
摘要
垂直联邦学习（VFL）旨在处理分布在多个联邦学习参与者之间、垂直分区的数据。最近的研究发现，VFL 对后门攻击存在重大漏洞，这些攻击特别针对 VFL 的独特特征。因此，这些攻击可能中和主要针对水平联邦学习（HFL）和深度神经网络设计的现有防御机制。在本文中，我们提出了首个专为 VFL 设计的后门防御方法，称为 VFLIP。VFLIP 采用识别和净化技术，这些技术在推断阶段运行，从而大大提高了对后门攻击的鲁棒性。VFLIP 首先通过采用基于参与者的异常检测方法来识别后门触发的嵌入。随后，VFLIP 对其进行净化处理，将被识别为恶意的嵌入移除，并基于剩余嵌入重构所有嵌入。我们在 CIFAR10、CINIC10、Imagenette、NUS-WIDE 和 BankMarketing 上进行了广泛实验，表明 VFLIP 能有效缓解 VFL 中的后门攻击。https://github.com/blingcho/VFLIP-esorics24
引用
@article{arxiv.2408.15591,
title = {VFLIP: A Backdoor Defense for Vertical Federated Learning via Identification and Purification},
author = {Yungi Cho and Woorim Han and Miseon Yu and Younghan Lee and Ho Bae and Yunheung Paek},
journal= {arXiv preprint arXiv:2408.15591},
year = {2024}
}
备注
Accepted by 29th European Symposium on Research in Computer Security (ESORICS 2024)