增强联邦优化：基于自适应无偏客户端采样与方差缩减的方法

联邦学习（FL）是一种分布式学习范式，可在不收集本地数据的情况下跨多个设备训练全局模型。在 FL 中，服务器通常为每一轮训练选择部分客户端以优化资源使用。该过程的核心是無偏客户端采样技术，其确保客户端的代表性选择。现有方法主要采用随机采样过程，尽管有效，但由于采样方差导致的宽松上界而效率次优。本工作中，通过采用独立采样过程，我们提出了一种聚焦于自适应无偏客户端采样的联邦优化框架，借助在线方差缩减策略改善收敛速率。特别地，我们提出首个采用独立采样过程的自适应客户端采样器 K-Vib。K-Vib 在通信预算 $K$ 内于遗憾界 $\tilde{\mathcal{O}}\big(N^{\frac{1}{3}}T^{\frac{2}{3}}/K^{\frac{4}{3}}\big)$ 上实现线性加速。实证研究表明，K-Vib 相较基线算法速度翻倍，展现出在联邦优化中的显著潜力。