面向频域联邦学习的高能量集中方法
机器学习
2025-10-29 v2
摘要
联邦学习（FL）在不共享数据的情况下展现出了协同优化的巨大潜力。由于合成数据被发送至服务器，利用数据集蒸馏这一流行概念，该 FL 框架在缓解数据异构性的同时保护了真实数据隐私。然而，此类方法仍面临整个空间域设计中冗余信息与噪声的挑战，这不可避免地增加了通信负担。在本文中，我们提出了一种具有高能量集中特性的新型频域感知 FL 方法（FedFD）来解决这一问题。我们的 FedFD 受到如下发现的启发：离散余弦变换将能量主要分布到特定区域，称为高能量集中。FedFD 背后的原理是，低能量（如高频分量）通常包含冗余信息和噪声，因此过滤它们有助于降低通信成本并优化性能。我们的 FedFD 在数学上被表述为使用二值掩码保留低频分量，通过频域分布对齐促进最优解。特别是，将真实数据驱动的合成分类施加于损失函数中，以增强低频分量的质量。在五个图像和语音数据集上，FedFD 在降低通信成本的同时取得了优于 SOTA 方法的性能。例如，在 Dirichlet 系数 的 CIFAR-10 数据集上，FedFD 实现了至少 37.78% 的通信成本降低，同时获得了 10.88% 的性能提升。
引用
@article{arxiv.2509.12630,
title = {High-Energy Concentration for Federated Learning in Frequency Domain},
author = {Haozhi Shi and Weiying Xie and Hangyu Ye and Daixun Li and Jitao Ma and Yunsong Li and Leyuan Fang},
journal= {arXiv preprint arXiv:2509.12630},
year = {2025}
}