迈向联邦学习中高效且可认证的投毒攻击恢复
密码学与安全
2024-01-22 v2 机器学习
摘要
联邦学习（FL）易受投毒攻击，恶意客户端操纵其更新以影响全局模型。尽管存在多种检测FL中这些客户端的方法，但识别恶意客户端需要足够的模型更新，因此当恶意客户端被检测到时，FL模型已经被投毒。因此，需要一种在识别恶意客户端后恢复准确全局模型的方法。当前的恢复方法依赖于（i）参与FL客户端的所有历史信息和（ii）未受恶意客户端影响的初始模型，导致对存储和计算资源的高需求。本文表明，基于（i）选择性历史信息而非所有历史信息，以及（ii）未受恶意客户端显著影响的历史模型而非初始模型，仍然可以实现高效的恢复。在这种情况下，在保持可比恢复性能的同时，我们可以加速恢复速度并减少内存消耗。遵循这一概念，我们引入了Crab，一种高效且可认证的恢复方法，它依赖于选择性信息存储和自适应模型回滚。理论上，我们证明了在特定假设下，Crab恢复的全局模型与从头训练恢复的全局模型之间的差异是有界的。我们在三个数据集上对多种机器学习模型以及各种无目标和有目标投毒攻击进行的实证评估表明，Crab既准确又高效，并且在恢复速度和内存消耗方面始终优于先前的方法。
引用
@article{arxiv.2401.08216,
title = {Towards Efficient and Certified Recovery from Poisoning Attacks in Federated Learning},
author = {Yu Jiang and Jiyuan Shen and Ziyao Liu and Chee Wei Tan and Kwok-Yan Lam},
journal= {arXiv preprint arXiv:2401.08216},
year = {2024}
}