SIFU：联邦优化中高效且可证明的客户端遗忘的序贯知情联邦遗忘方法
机器学习
2024-03-19 v5
摘要
机器遗忘（Machine Unlearning, MU）是机器学习安全中日益重要的课题，旨在从训练过程中移除给定数据点的贡献。联邦遗忘（Federated Unlearning, FU）致力于将 MU 扩展至从联邦训练流程中遗忘给定客户端的贡献。尽管已有若干 FU 方法被提出，我们目前仍缺乏一种通用方法，能在不对客户端损失函数作凸假设的前提下，为 FedAvg 流程提供形式化的遗忘保证，同时确保可扩展性与泛化能力。我们旨在填补这一空白，提出 SIFU（Sequential Informed Federated Unlearning，序贯知情联邦遗忘），一种适用于凸与非凸优化机制的新型 FU 方法。SIFU 可自然应用于 FedAvg，无需为客户端带来额外计算开销，并对遗忘任务的质量提供形式化保证。我们对 SIFU 的遗忘特性进行了理论分析，并通过与一系列 SOTA 遗忘方法的对比，在实际中证明了其有效性。
引用
@article{arxiv.2211.11656,
title = {SIFU: Sequential Informed Federated Unlearning for Efficient and Provable Client Unlearning in Federated Optimization},
author = {Yann Fraboni and Martin Van Waerebeke and Kevin Scaman and Richard Vidal and Laetitia Kameni and Marco Lorenzi},
journal= {arXiv preprint arXiv:2211.11656},
year = {2024}
}