Forget-SVGD：基于粒子的贝叶斯联邦遗忘
机器学习
2021-11-24 v1 信号处理
摘要
基于变分粒子的贝叶斯学习方法具有不受更常规参数化技术所带偏差限制的优势。本文提出利用非参数贝叶斯近似推断的灵活性来开发一种新颖的贝叶斯联邦遗忘方法，称为Forget-Stein变分梯度下降(Forget-SVGD)。Forget-SVGD构建于SVGD——一种使用基于梯度的确定性更新的基于粒子的近似贝叶斯推断方案——及其称为分布式SVGD(DSVGD)的分布式(联邦)扩展之上。在联邦学习完成后，当一个或多个参与智能体请求将其数据“遗忘”时，Forget-SVGD在需要“遗忘”数据的智能体上执行局部SVGD更新，并与参数服务器交替进行通信轮次。所提方法通过与从头训练排除待遗忘数据的非参数方案以及现有参数化贝叶斯遗忘方法的性能比较得到验证。
引用
@article{arxiv.2111.12056,
title = {Forget-SVGD: Particle-Based Bayesian Federated Unlearning},
author = {Jinu Gong and Osvaldo Simeone and Rahif Kassab and Joonhyuk Kang},
journal= {arXiv preprint arXiv:2111.12056},
year = {2021}
}
备注
submitted for conference publication