基于缩放熵注意力和多源平滑伪标签的一射 federated 非监督域适应方法
计算机视觉与模式识别
2025-03-14 v1 机器学习
摘要
联邦学习是一种面向隐私保护的协作学习方法，但在处理域迁移时面临诸多挑战，尤其是当每个客户端仅访问其源数据且在目标域适应期间无法共享数据时。此外，联邦方法常因客户端与服务器之间多轮模型更新导致通信开销较大。我们提出一种一射(Federated)非监督域适应(FUDA)方法以应对这些限制。具体而言，我们引入缩放熵注意力(SEA)用于模型聚合，以及多源伪标签(MSPL)用于目标域适应。SEA利用目标域上的缩放预测熵为可靠模型分配更高注意力，从而提高全局模型质量并确保贡献权重的平衡。MSPL从多个源模型蒸馏生成伪标签，并通过平滑软标签交叉熵(SSCE)管理噪声标签。我们的方法在四个标准基准上均优于最先进的方法，同时降低了通信和计算成本，非常适用于实际应用。实现代码将在出版后公开。
引用
@article{arxiv.2503.10020,
title = {One-Shot Federated Unsupervised Domain Adaptation with Scaled Entropy Attention and Multi-Source Smoothed Pseudo Labeling},
author = {Ali Abedi and Q. M. Jonathan Wu and Ning Zhang and Farhad Pourpanah},
journal= {arXiv preprint arXiv:2503.10020},
year = {2025}
}