用于联邦多标签分类的语言引导 Transformer
计算机视觉与模式识别
2023-12-13 v1 人工智能
机器学习
摘要
联邦学习（FL）是一种新兴范式，允许多个用户在不共享其私有数据的情况下，以保护隐私的方式协作训练一个稳健的模型。现有的大多数 FL 方法仅考虑传统的单标签图像分类，忽略了将任务转移到多标签图像分类时的影响。然而，在真实的 FL 场景中，FL 处理本地数据分布中的用户异构性仍然具有挑战性，并且该问题在多标签图像分类中变得更加严重。受 Transformer 在集中式环境中近期成功应用的启发，我们提出了一种用于多标签分类的新型 FL 框架。由于本地客户端在训练期间可能仅观察到部分标签相关性，直接聚合本地更新的模型无法产生令人满意的性能。因此，我们提出了一种新型语言引导 Transformer 的 FL 框架（FedLGT）来应对这一具有挑战性的任务，旨在跨不同客户端利用并转移知识，以学习一个稳健的全局模型。通过在各种多标签数据集（如 FLAIR、MS-COCO 等）上的广泛实验，我们表明我们的 FedLGT 能够实现令人满意的性能，并在多标签 FL 场景下优于标准 FL 技术。代码可在 https://github.com/Jack24658735/FedLGT 获取。
关键词
引用
@article{arxiv.2312.07165,
title = {Language-Guided Transformer for Federated Multi-Label Classification},
author = {I-Jieh Liu and Ci-Siang Lin and Fu-En Yang and Yu-Chiang Frank Wang},
journal= {arXiv preprint arXiv:2312.07165},
year = {2023}
}
备注
Accepted by AAAI 2024