非合作性联邦学习后门攻击：新的威胁格局
密码学与安全
2024-07-12 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
尽管联邦学习（FL）在分布式数据上进行隐私保护模型训练方面前景光明，但仍然容易受到后门攻击。这些攻击通过在训练数据中嵌入触发器（特定输入模式）来操纵模型，在部署时迫使其针对预定义类别进行误分类。传统的单触发器攻击和最近针对协作性多触发器攻击的工作（即客户端协作）凸显了由于协调需求导致的攻击现实性局限。我们调查了更令人担忧的情景：非合作性多触发器攻击。在这种情况下，独立的对手引入针对唯一类别的不同触发器。这些平行攻击利用 FL 的去中心化特性，使检测更加困难。我们的实验表明，FL 对此类攻击极其脆弱，其中 individual backdoors 可以在不影响主任务的情况下成功学习。这项研究强调了针对多样化后门攻击在不断演变的 FL 环境中构建 robust defenses 的 critical need。虽然我们的 focus 是 empirical analysis，但我们认为它可以指导后门 research toward more realistic settings，突显 FL 在构建 robust defenses against diverse backdoor threats 中发挥的关键作用。代码可在 \url{https://anonymous.4open.science/r/nba-980F/} 获取。
引用
@article{arxiv.2407.07917,
title = {Non-Cooperative Backdoor Attacks in Federated Learning: A New Threat Landscape},
author = {Tuan Nguyen and Dung Thuy Nguyen and Khoa D Doan and Kok-Seng Wong},
journal= {arXiv preprint arXiv:2407.07917},
year = {2024}
}