ConDa：一种高效的联邦取消学习方法，采用贡献消衰
机器学习
2024-10-08 v1 密码学与安全
摘要
联邦学习 (FL) 使跨去中心化数据源或客户机进行协作模型训练成为可能。尽管向共享模型添加新参与者并不构成很大的技术挑战，但移除参与者及其包含在共享模型中的相关信息仍是一个挑战。为解决此问题，联邦取消学习已成为一个关键研究方向，旨在无需损害剩余数据上模型性能的情况下，从全局训练模型中移除信息。大多数现代联邦取消学习方法使用昂贵的方法，例如使用剩余客户机数据重新训练全局模型或需要在客户机或服务器端进行大量计算的方法。我们引入贡献消衰 (ConDa)，一种高效取消学习的框架，通过追踪影响每个客户机全局模型的参数，并对具有来自被遗忘客户机的隐私侵入性贡献的全局模型参数进行突触消衰。我们的技术不需要客户机数据或任何形式的重新训练，也不会对客户机或服务器端带来任何计算开销。我们在多个数据集上进行实验，证明了 ConDa 能够有效地遗忘客户机的数据。在在 MNIST、CIFAR10 和 CIFAR100 数据集上进行的实验中，ConDa 证明自己是最快的联邦取消学习方法，至少 在最近的 SOTA 方法上快 100 倍。我们的重点是在非 IID 联邦学习设置中，这是取消学习面临的最大挑战。此外，我们通过后门攻击和成员推断攻击验证了 ConDa 的鲁棒性。我们设想这项工作是 FL 遵循法律和伦理要求的关键组件。
引用
@article{arxiv.2410.04144,
title = {ConDa: Fast Federated Unlearning with Contribution Dampening},
author = {Vikram S Chundawat and Pushkar Niroula and Prasanna Dhungana and Stefan Schoepf and Murari Mandal and Alexandra Brintrup},
journal= {arXiv preprint arXiv:2410.04144},
year = {2024}
}