抹去你的痕迹：联邦学习中后门的远程擦除
机器学习
2023-04-24 v1 密码学与安全
摘要
联邦学习（FL）使得多个参与方能够在不暴露敏感个人数据的情况下进行协作式深度学习训练。然而，FL 的分布式特性以及未经审查的参与方数据使其易受后门攻击。在此类攻击中， adversary 在训练期间向中心化模型注入恶意功能，导致对特定 adversary 选定输入的故意误分类。虽然先前研究已证明在 FL 中可成功注入持久性后门，但这种持久性也带来挑战，因为其在中心化模型中的存在会促使中心聚合服务器采取预防措施以惩罚 adversary。因此，本文提出一种方法，使 adversary 能够在达成目标或怀疑可能被检测时，有效地从中心化模型中移除后门。所提方法扩展了机器遗忘（machine unlearning）的概念，并提出了在保持中心化模型性能的同时防止过度遗忘与后门模式无关信息的策略，从而在移除后门时使 adversary 保持隐蔽。据我们所知，这是首项探索在 FL 中利用机器遗忘为 adversary 利益移除后门的工作。考虑图像分类场景的详尽评估表明，所提方法在从中心化模型高效移除由最先进攻击在多种配置下注入的后门方面是有效的。
引用
@article{arxiv.2304.10638,
title = {Get Rid Of Your Trail: Remotely Erasing Backdoors in Federated Learning},
author = {Manaar Alam and Hithem Lamri and Michail Maniatakos},
journal= {arXiv preprint arXiv:2304.10638},
year = {2023}
}