中文

基于超维计算的无监督联邦学习:FedUHD

机器学习 2025-08-19 v1 硬件体系结构 分布式、并行与集群计算

摘要

无监督联邦学习 (UFL) 因消除耗费人力的数据标注而受到关注,作为一种隐私保护、去中心化的机器学习方法。然而,UFL 在实际应用中面临多个挑战:(1) 跨设备的数据分布非独立同分布 (non-iid),(2) 边缘设备的计算和通信成本高昂,(3) 易受通信噪声影响。以往的 UFL 方法依赖深度神经网络 (NN),在计算和通信方面引入了 substantial 的开销。本文我们提出 FedUHD,首个基于超维计算 (HDC) 的 UFL 框架。HDC 是一种受大脑启发的计算方案,具有轻量级训练和推理操作、较小的模型规模以及对通信噪声的鲁棒性。FedUHD 引入两种新颖的 HDC 设计以提高 UFL 性能。在客户端,一种基于 kNN 的聚类超向量移除方法通过消除有害的离群值来解决 non-iid 数据样本。在服务器端,一种加权 HDC 聚合技术平衡了跨客户端的 non-iid 数据分布。我们的实验表明,FedUHD 在训练中实现了最高可达 173.6 倍的加速比和 612.7 倍的能源效率提升,通信成本降低最高可达 271 倍,平均准确率提升 15.50%,并在各种噪声情况下表现出优于基于最先进神经网络的 UFL 方法的优越鲁棒性。

关键词

引用

@article{arxiv.2508.12021,
  title  = {FedUHD: Unsupervised Federated Learning using Hyperdimensional Computing},
  author = {You Hak Lee and Xiaofan Yu and Quanling Zhao and Flavio Ponzina and Tajana Rosing},
  journal= {arXiv preprint arXiv:2508.12021},
  year   = {2025}
}