应对联合时间序列预测中的数据异构性
机器学习
2024-11-26 v1 密码学与安全
信息检索
摘要
时间序列预测在能源消耗预测、疾病传播监测和天气预报等众多现实应用中发挥着关键作用。尽管已在时间序列预测方面取得了显著进展,但大多数现有方法依赖集中训练范例,即收集来自分布式设备(如传感器、可穿戴设备)的大量数据到中央云服务器。然而,这种范例会导致通信网络负载过重并引发隐私问题。联合学习作为一种流行的隐私保留技术,使跨分布式数据源进行协作模型训练成为可能。然而,直接将联合学习应用于时间序列预测往往会导致结果不佳,因为由不同设备生成的时间序列数据具有内在的异构性。本文提出了一种新型框架Fed-TREND,通过生成信息丰富的合成数据作为辅助知识载体来解决数据异构性问题。具体而言,Fed-TREND生成两种类型的合成数据。第一种类型合成数据捕捉来自各客户端上传模型更新所代表的分布信息,并增强各客户端的本地训练一致性。第二种类型的合成数据从全局模型更新轨迹中提取长期影响见解,用于在聚合后细化全局模型。Fed-TREND与大多数时间序列预测模型兼容,可无缝集成到现有的联合学习框架中以提高预测性能。我们在八个数据集上进行了广泛实验,使用多个联合学习基线和四个流行的时间序列预测模型,证明了Fed-TREND的有效性和通用性。
引用
@article{arxiv.2411.15716,
title = {Tackling Data Heterogeneity in Federated Time Series Forecasting},
author = {Wei Yuan and Guanhua Ye and Xiangyu Zhao and Quoc Viet Hung Nguyen and Yang Cao and Hongzhi Yin},
journal= {arXiv preprint arXiv:2411.15716},
year = {2024}
}