PA-CFL：面向异构零售数据中基于 Transformer 的销售预测的隐私自适应聚类联邦学习
机器学习
2025-03-24 v2 密码学与安全
摘要
联邦学习 (FL) 使零售商能够共享模型参数以进行需求预测，同时维护隐私。然而，由于消费者行为等因素的差异，不同区域的数据存在异构性，这对联邦学习的有效性构成了挑战。为了应对这一挑战，我们提出了专为异构零售数据需求预测定制的隐私自适应聚类联邦学习 (PA-CFL)。通过利用差分隐私和特征重要性分布，PA-CFL 将零售商分组到不同的“气泡”中，每个气泡形成自己的联邦学习系统，以有效隔离数据异构性。在每个气泡内部，设计了 Transformer 模型来预测每个客户的本地销售额。我们的实验表明，PA-CFL 在所有参与客户的需求预测性能上显著超越了 FedAvg，并优于本地学习。与本地学习相比，PA-CFL 的 R^2 提高了 5.4%，RMSE 降低了 69%，MAE 降低了 45%。我们的方法通过对不同噪声水平和每个气泡中参与客户范围的适应性调整，实现了有效的联邦学习。通过对参与者进行分组并主动过滤掉高风险客户，PA-CFL 减轻了对联邦学习系统的潜在威胁。研究结果证明了 PA-CFL 在异构数据的时间序列预测任务中增强联邦学习的能力，在零售应用中实现了预测准确性和隐私保护之间的平衡。此外，PA-CFL 检测和中和来自客户的中毒数据的能力增强了系统的鲁棒性和可靠性。
引用
@article{arxiv.2503.12220,
title = {PA-CFL: Privacy-Adaptive Clustered Federated Learning for Transformer-Based Sales Forecasting on Heterogeneous Retail Data},
author = {Yunbo Long and Liming Xu and Ge Zheng and Alexandra Brintrup},
journal= {arXiv preprint arXiv:2503.12220},
year = {2025}
}