基于类间多样性重新思考联邦主动学习
计算机视觉与模式识别
2023-03-23 v1 机器学习
摘要
尽管联邦学习取得了令人瞩目的进展,但大多数研究都假设客户端的数据已完全标注。然而在真实场景中,每个客户端都可能拥有大量未标注样本。在利用未标注数据的各种方法中,联邦主动学习框架已成为一种有前景的解决方案。在去中心化设定下,存在两类可用的查询选择器模型,即“全局”与“仅局部”模型,但鲜有文献探讨它们的性能优势及其成因。本文中,我们首先证明两类选择器模型的优劣取决于全局与局部的类间多样性。此外,我们观察到全局与仅局部模型是解决各自侧不平衡问题的关键。基于上述发现,我们提出 LoGo,一种对变化的局部异构程度和全局不平衡比例均具鲁棒性的联邦主动学习(FAL)采样策略,该策略通过两步主动选择方案融合两类模型。在总计 38 种实验设定下,LoGo 始终优于六种主动学习策略。
引用
@article{arxiv.2303.12317,
title = {Re-thinking Federated Active Learning based on Inter-class Diversity},
author = {SangMook Kim and Sangmin Bae and Hwanjun Song and Se-Young Yun},
journal= {arXiv preprint arXiv:2303.12317},
year = {2023}
}
备注
CVPR 2023