基于利用通用内容与个性化风格的联邦无监督视觉表示学习

对比学习等判别性无监督学习方法已在集中式数据上展现出学习通用视觉表示的能力。然而，由于用户风格与偏好的差异，将此类方法适配到具有未标注、私有且异构的客户端数据的分布式系统仍具挑战。联邦学习使多个客户端能够在不引发本地客户端间隐私泄露的情况下协同学习全局模型。另一方面，联邦学习的另一方向研究个性化方法以应对本地异构性。然而，在无标签的去中心化设定下同时解决泛化与个性化的问题仍鲜有研究。本文中，我们提出一种新方法 FedStyle，通过将对局部风格信息与原局部内容信息的融合用于对比学习来学习更具泛化性的全局模型，并通过引入局部风格信息用于下游任务来学习更具个性化的局部模型。风格信息通过对比原始局部数据与强增强局部数据（Sobel 滤波图像）来提取。通过在 IID 与非 IID 设定下带线性评估的大量实验，我们证明 FedStyle 在风格化去中心化设定下优于泛化基线方法与个性化基线方法。通过全面的消融实验，我们证明所设计的风格融合与风格化个性化显著提升了性能。