FedSiam-DA：非独立同分布数据下基于孪生网络的双重聚合联邦学习
机器学习
2022-11-21 v2
摘要
联邦学习是一种分布式学习，允许每个客户端将原始数据保留在本地，仅将本地模型的参数上传至服务器。尽管联邦学习能解决数据孤岛问题，但在实际应用中训练数据异构的模型仍具挑战性。在本文中，我们提出 FedSiam-DA，一种新颖的双重聚合对比联邦学习方法，以在各种数据异构设定下对本地与全局模型进行个性化。首先，基于孪生网络中对比学习的思想，FedSiam-DA 在本地训练期间将本地与全局模型视为孪生网络的不同分支，并通过不断改变模型相似度来控制模型的更新方向，从而实现本地模型的个性化。其次，FedSiam-DA 为每个本地模型引入基于模型相似度的动态权重，并施行双重聚合机制以进一步提升全局模型的泛化能力。此外，我们在基准数据集上进行了大量实验，结果表明 FedSiam-DA 在非独立同分布数据集上优于先前的若干 FL 方法。
引用
@article{arxiv.2211.09421,
title = {FedSiam-DA: Dual-aggregated Federated Learning via Siamese Network under Non-IID Data},
author = {Ming Yang and Yanhan Wang and Xin Wang and Zhenyong Zhang and Xiaoming Wu and Peng Cheng},
journal= {arXiv preprint arXiv:2211.09421},
year = {2022}
}
备注
8 pages, 5 figures