面向具有概念漂移的传感器数据的异步联邦学习
机器学习
2021-09-02 v1 分布式、并行与集群计算
摘要
联邦学习（FL）涉及多个分布式设备在不向中心服务器泄露本地数据的情况下联合训练共享模型。以往大多数 FL 方法假设设备上的数据在训练过程中是固定且平稳的。然而，这一假设并不现实，因为这些设备通常具有不同的采样率和系统配置。此外，设备数据的底层分布会随时间动态变化，即所谓的概念漂移（concept drift）。概念漂移因已有数据与未来数据之间的不一致而使学习过程复杂化。传统的概念漂移处理技术，如基于数据块和基于集成学习的方法，由于本地设备的异构性，在联邦学习框架中并不适用。我们提出一种新方法 FedConD，用于检测和处理本地设备上的概念漂移，并最小化其对异步 FL 中模型性能的影响。漂移检测策略基于一种利用本地模型历史性能的自适应机制。漂移自适应通过调整每个本地设备上目标函数的正则化参数来实现。此外，我们在服务器端设计了一种通信策略，以审慎方式选择本地更新并加速模型收敛。在三个演化数据流和两个图像数据集上的实验评估表明，\model~能够检测并处理概念漂移，并且与其他基线方法相比降低了总体通信成本。
引用
@article{arxiv.2109.00151,
title = {Asynchronous Federated Learning for Sensor Data with Concept Drift},
author = {Yujing Chen and Zheng Chai and Yue Cheng and Huzefa Rangwala},
journal= {arXiv preprint arXiv:2109.00151},
year = {2021}
}