联邦广义类别发现
计算机视觉与模式识别
2023-05-24 v1
摘要
广义类别发现(GCD)旨在给定已知类的标注数据下,对来自已知类与未知类的未标注样本进行分组。为顺应社区近期的去中心化趋势,我们引入一个实用且具挑战性的任务,即联邦GCD(Fed-GCD),其训练数据分布式存储于本地客户端且不可在客户端间共享。Fed-GCD的目标是在隐私保护约束下通过客户端协作训练一个通用GCD模型。Fed-GCD带来两方面挑战:1)因各客户端模型训练数据少于集中式GCD学习导致的表征退化;2)不同客户端间高度异构的标签空间。为此,我们提出一种基于可学习GMMs的新型关联高斯对比学习(AGCL)框架,由客户端语义关联(CSA)与全局-局部GMM对比学习(GCL)组成。在服务器端,CSA聚合本地客户端GMMs的异构类别以生成包含更完备类别知识的全局GMM。在各客户端,GCL利用本地与全局GMMs构建类级对比学习。本地GCL以有限本地数据学习鲁棒表征;全局GCL借助本地数据中可能不存在的完备类别关系,促使模型产生更具判别力的表征。我们基于六个视觉数据集构建基准以促进Fed-GCD研究。大量实验表明,我们的AGCL在所有数据集上均优于基于FedAvg的基线。
引用
@article{arxiv.2305.14107,
title = {Federated Generalized Category Discovery},
author = {Nan Pu and Zhun Zhong and Xinyuan Ji and Nicu Sebe},
journal= {arXiv preprint arXiv:2305.14107},
year = {2023}
}
备注
17 pages, 3 figures