边缘的无监督联邦优化：无需标签的D2D学习

联邦学习（FL）是分布式机器学习（ML）的一种流行解决方案。虽然FL传统上针对监督ML任务进行研究，但在许多应用中，假设跨设备均具备标注数据是不切实际的。为此，我们开发了协同联邦无监督对比学习（Cooperative Federated unsupervised Contrastive Learning, CF-CL），以在具有无标签数据集的边缘设备间促进FL。CF-CL采用局部设备协作机制，通过设备到设备（D2D）通信交换显式（即原始数据）或隐式（即嵌入）信息，以提升局部多样性。具体而言，我们引入了一种智能信息推拉方法，专为具有软性或严格数据隐私限制的FL环境定制数据/嵌入交换。信息共享通过接收端利用发送端精心提供的预留数据集，采用基于概率的重要性采样技术进行。在隐式情形下，嵌入交换通过作为正则化项纳入对比损失，进一步整合到设备的局部ML训练中，并辅以动态对比裕度以调整所探索的潜在空间体积。数值评估表明，CF-CL促使跨设备学习的潜在空间对齐，带来更快、更高效的全局模型训练，并在跨设备的极端非独立同分布数据分布环境中表现出有效性。