联邦学习中通过后门攻击实现对抗鲁棒性软化
机器学习
2025-07-01 v3 人工智能
摘要
用户隐私与释放分布式数据潜力能力之间的微妙平衡是一个重要关切。联邦学习能够在无需共享数据的情况下训练协作模型，已成为一种以隐私为中心的解决方案。该方法带来了安全挑战，尤其是投毒与后门攻击（恶意实体将 corrupted 数据注入训练过程）以及旨在在测试时引发误分类的规避攻击。我们的研究考察了联邦学习中对抗训练（一种针对规避攻击的常用防御方法）与后门攻击的交叉点。我们提出对抗鲁棒性软化（ARU），由一部分对抗客户端采用，以在联邦训练期间故意削弱模型鲁棒性，使模型易受更广泛的规避攻击。我们呈现了广泛实验，评估 ARU 对对抗训练及现有针对投毒与后门攻击的鲁棒聚合防御的影响。我们的结果表明，ARU 能大幅削弱对抗训练使模型抵御测试时规避攻击的硬化能力，且采用 ARU 的对手甚至可规避常能中和投毒或后门攻击的鲁棒聚合防御。
引用
@article{arxiv.2310.11594,
title = {Adversarial Robustness Unhardening via Backdoor Attacks in Federated Learning},
author = {Taejin Kim and Jiarui Li and Shubhranshu Singh and Nikhil Madaan and Carlee Joe-Wong},
journal= {arXiv preprint arXiv:2310.11594},
year = {2025}
}
备注
15 pages, 8 main pages of text, 13 figures, 5 tables. Made for a Neurips workshop on backdoor attacks - extended version