通过分布变换解决联邦学习中的异质性问题
计算机视觉与模式识别
2022-10-28 v1 机器学习
摘要
联邦学习（FL）允许多个客户端协同训练深度学习模型。FL 面临的一个主要挑战是数据分布异质，即不同客户端的数据分布各不相同。现有的个性化 FL 算法仅适用于有限情况，例如每个客户端只有一到两个数据类别，因此它们无法令人满意地解决不同程度数据异质性下的 FL 问题。在本文中，我们提出一个名为 DisTrans 的新颖框架，通过训练和测试时的分布变换以及双输入通道模型结构来提升 FL 性能（即模型准确率）。DisTrans 通过为每个 FL 客户端优化分布偏移量和模型来平移其数据分布，并在 FL 服务器上聚合这些偏移量，以在分布异质的情况下进一步提升性能。我们在多个基准数据集上的评估表明，DisTrans 在多种设置和不同程度的客户端分布异质性下，均优于最先进的 FL 方法和数据增强方法。
引用
@article{arxiv.2210.15025,
title = {Addressing Heterogeneity in Federated Learning via Distributional Transformation},
author = {Haolin Yuan and Bo Hui and Yuchen Yang and Philippe Burlina and Neil Zhenqiang Gong and Yinzhi Cao},
journal= {arXiv preprint arXiv:2210.15025},
year = {2022}
}
备注
In the Proceedings of European Conference on Computer Vision (ECCV), 2022