通过滤波感知注意力为联邦学习赋能
计算机视觉与模式识别
2023-11-22 v1
摘要
联邦学习（FL）是一种有前景的分布式范式，无需数据共享但面临数据异构性挑战。通过超网络生成个性化参数被证明有效，然而现有方法未能个性化本地模型结构。这导致冗余参数难以适应多样的数据分布。为应对这些局限，我们提出 FedOFA，利用个性化正交滤波注意力进行参数重校准。其核心是双流滤波感知注意力（TFA）模块，精心设计为提取个性化滤波感知注意力图，包含滤波器内注意力（IntraFa）与滤波器间注意力（InterFA）双流。这些流增强表征能力并为本地模型探索最优隐式结构。正交正则化通过避免滤波器间互相关来最小化冗余。此外，我们引入注意力引导剪枝策略（AGPS）以提升通信效率。AGPS 选择性保留关键神经元同时屏蔽冗余神经元，在不牺牲性能的前提下降低通信成本。重要的是，FedOFA 运行于服务端，在客户端不产生额外计算开销，使其在通信受限场景中具优势。大量实验验证了优于最先进方法的性能，代码将在论文录用后公开。
引用
@article{arxiv.2311.12049,
title = {Energizing Federated Learning via Filter-Aware Attention},
author = {Ziyuan Yang and Zerui Shao and Huijie Huangfu and Hui Yu and Andrew Beng Jin Teoh and Xiaoxiao Li and Hongming Shan and Yi Zhang},
journal= {arXiv preprint arXiv:2311.12049},
year = {2023}
}