面向云边协同中纵向联邦学习的通用对抗后门攻击
机器学习
2023-04-25 v1
摘要
纵向联邦学习（VFL）是一种云边协同范式，使由资源受限的物联网（IoT）设备组成的边缘节点能够在本地保留数据的同时协作训练人工智能（AI）模型。该范式提升了边缘与IoT设备的隐私和安全性，使VFL成为人工智能物联网（AIoT）系统的重要组成部分。然而，VFL的分割结构可被对手利用来注入后门，从而操纵VFL的预测。本文旨在研究VFL在二分类任务情境下的脆弱性。为此，我们定义了VFL中后门攻击的威胁模型，并引入一种通用对抗后门（UAB）攻击来毒化VFL的预测。UAB攻击由通用触发器生成与干净标签后门注入组成，在特定迭代期间融入VFL训练，通过交替优化VFL子问题的通用触发器与模型参数实现。与现有针对VFL设计后门攻击的研究不同，那些研究需要分割VFL架构中不可获取的辅助信息知识；相反，我们的方法无需任何额外数据即可执行攻击。在LendingClub与Zhongyuan数据集上，我们的方法超越了现有最先进方法，在实现高达100%后门任务性能的同时保持了主任务性能。本文结果重大推进了揭示VFL隐藏后门风险的工作，从而为安全AIoT的未来发展铺平道路。
引用
@article{arxiv.2304.11432,
title = {Universal Adversarial Backdoor Attacks to Fool Vertical Federated Learning in Cloud-Edge Collaboration},
author = {Peng Chen and Xin Du and Zhihui Lu and Hongfeng Chai},
journal= {arXiv preprint arXiv:2304.11432},
year = {2023}
}
备注
14 pages, 7 figures