来自无标签流的自主设备端联邦自监督学习
计算机视觉与模式识别
2023-05-26 v2
摘要
边缘设备的普及导致在边缘产生日益增多的无标签数据。部署在边缘设备上的深度学习模型需从这些无标签数据中学习以持续提升精度。自监督表示学习利用集中式无标签数据已取得可喜性能。然而，日益增强的隐私保护意识限制了将边缘设备上分布式无标签图像数据集中化。尽管联邦学习已被广泛采用以实现保护隐私的分布式机器学习，但若无高效选择流式数据的数据选择方法，传统联邦学习框架无法在边缘有限存储资源下处理这些海量分散无标签数据。为应对这些挑战，我们提出一种带核心集选择的设备端自监督联邦学习框架，称为 SOFed，以自动选择由最具代表性样本组成的核心集放入各设备的重放缓冲区。它保留了数据隐私，因为各客户端不共享原始数据，同时学习良好的视觉表示。实验证明了所提方法在视觉表示学习中的有效性与重要性。
引用
@article{arxiv.2212.01006,
title = {Self-supervised On-device Federated Learning from Unlabeled Streams},
author = {Jiahe Shi and Yawen Wu and Dewen Zeng and Jun Tao and Jingtong Hu and Yiyu Shi},
journal= {arXiv preprint arXiv:2212.01006},
year = {2023}
}