联邦迁移学习综述：挑战、方法与应用
机器学习
2024-03-05 v1 分布式、并行与集群计算
摘要
联邦学习（FL）是一种新颖的分布式机器学习范式，通过消除数据共享的需求，使参与者能够协作训练具有隐私保护的集中式模型。在实践中，FL通常涉及多个参与者，并需要第三方聚合全局信息以指导目标参与者的更新。因此，许多FL方法由于每个参与者的训练和测试数据可能并非来自相同的特征空间和相同的底层分布而效果不佳。同时，其本地设备的差异（系统异质性）、在线数据的持续流入（增量数据）以及标记数据稀缺可能进一步影响这些方法的性能。为了解决这个问题，联邦迁移学习（FTL）将迁移学习（TL）集成到FL中，引起了众多研究者的关注。然而，由于FL允许参与者在每一轮通信中持续共享知识，同时不允许其他参与者访问本地数据，FTL面临着许多TL中不存在的独特挑战。在本综述中，我们专注于对联邦迁移学习的当前进展进行分类和回顾，并概述相应的解决方案和应用。此外，总结了FTL场景的常见设置、可用数据集以及重要的相关研究。
引用
@article{arxiv.2403.01387,
title = {A Comprehensive Survey of Federated Transfer Learning: Challenges, Methods and Applications},
author = {Wei Guo and Fuzhen Zhuang and Xiao Zhang and Yiqi Tong and Jin Dong},
journal= {arXiv preprint arXiv:2403.01387},
year = {2024}
}