面向目标域泛化的联邦主动学习
机器学习
2023-12-06 v1 人工智能
计算机视觉与模式识别
摘要
本文将主动学习框架引入联邦学习以实现目标域泛化，同时利用这两种学习范式的优势。我们的框架 FEDALV 由主动学习（AL）和联邦域泛化（FDG）组成，使得在不共享图像的情况下，基于有限源域客户端数据训练的图像分类模型能够泛化至未见的目标域。为此，我们的 FDG 方法 FEDA 在训练期间包含两次优化更新，一次在客户端，另一次在服务器端。对于客户端，引入的损失旨在降低特征复杂度并实现条件对齐；而在服务器端，正则化限制了全局模型所获得的源域与目标域之间的自由能偏差。FEDAL 的另一组件是具有可变预算的 AL，它向服务器查询以检索并为特定客户端采样最具信息量的本地数据。我们在有无 AL 的 FDG 上进行了多次实验，并与传统的 FDG 基线和联邦主动学习基线进行了比较。大量定量实验表明，与多种当代方法相比，我们的方法在准确性和效率上均具有优越性。FEDALV 成功获得了与全量训练相当的目标准确率，而仅采样了低至 5% 的源客户端数据。
引用
@article{arxiv.2312.02247,
title = {Federated Active Learning for Target Domain Generalisation},
author = {Razvan Caramalau and Binod Bhattarai and Danail Stoyanov},
journal= {arXiv preprint arXiv:2312.02247},
year = {2023}
}