FedCV:面向多样化计算机视觉任务的联邦学习框架
计算机视觉与模式识别
2021-11-23 v1 人工智能
机器学习
摘要
联邦学习(FL)是一种分布式学习范式,可以从边缘设备上的去中心化数据集学习全局或个性化模型。然而,在计算机视觉领域,由于缺乏在统一 FL 框架下对多样化任务的探索,FL 中的模型性能远远落后于集中式训练。FL 在目标检测和图像分割等高级计算机视觉任务中很少被有效证明。为了弥合差距并促进 FL 在计算机视觉任务中的发展,在这项工作中,我们提出了一个名为 FedCV 的联邦学习库和基准框架,以在三个最具代表性的计算机视觉任务上评估 FL:图像分类、图像分割和目标检测。我们提供了非独立同分布(non-I.I.D.)基准数据集、模型和多种参考 FL 算法。我们的基准研究表明,有多个值得未来探索的挑战:集中式训练技巧可能无法直接应用于 FL;非独立同分布数据集在不同任务中实际上在一定程度上降低了模型精度;鉴于庞大的参数数量和每客户端的存储成本,提高联邦训练的系统效率具有挑战性。我们相信,这样的库和基准以及可比较的评估设置,对于在视觉任务的 FL 中取得有意义的进展是必要的。FedCV 公开可用:https://github.com/FedML-AI/FedCV。
引用
@article{arxiv.2111.11066,
title = {FedCV: A Federated Learning Framework for Diverse Computer Vision Tasks},
author = {Chaoyang He and Alay Dilipbhai Shah and Zhenheng Tang and Di Fan1Adarshan Naiynar Sivashunmugam and Keerti Bhogaraju and Mita Shimpi and Li Shen and Xiaowen Chu and Mahdi Soltanolkotabi and Salman Avestimehr},
journal= {arXiv preprint arXiv:2111.11066},
year = {2021}
}
备注
Federated Learning for Computer Vision, an application of FedML Ecosystem (fedml.ai)