基于种子模型蒸馏的异构去中心化机器遗忘
机器学习
2023-08-29 v2
摘要
由于近期一些信息安全立法赋予用户被任何已训练机器学习模型遗忘的无条件权利，个性化的物联网服务提供商不得不将遗忘功能纳入其考量。遗忘用户贡献最直接的方法是从初始状态重新训练模型，这在具有频繁遗忘请求的高吞吐量应用中并不现实。尽管已有一些机器遗忘框架被提出以加速重训练过程，但它们无法匹配去中心化学习场景。在本文中，我们设计了一个称为 HDUS 的去中心化遗忘框架，该框架使用蒸馏得到的种子模型为所有客户端构建可擦除的集成模型。此外，该框架兼容异构的端侧设备模型，在现实应用中表现出更强的可扩展性。在三个真实世界数据集上的大量实验表明，我们的 HDUS 达到了最先进的性能。
引用
@article{arxiv.2308.13269,
title = {Heterogeneous Decentralized Machine Unlearning with Seed Model Distillation},
author = {Guanhua Ye and Tong Chen and Quoc Viet Hung Nguyen and Hongzhi Yin},
journal= {arXiv preprint arXiv:2308.13269},
year = {2023}
}