中文

FedLLM:面向可解释交通流预测的隐私保护联邦大语言模型

机器学习 2026-04-21 v1

摘要

交通预测在智能交通系统(ITS)中占据核心位置,支持实时决策、拥堵管理和长期规划。然而,许多现有方法面临实际限制。大多数时空模型在集中式数据上训练,依赖数值表示,解释性有限。近期大语言模型(LLM)方法提升了推理能力,但通常假设数据集中可用,未充分捕捉真实世界交通系统的分布式和异构性。为此,本研究提出FedLLM(联邦LLM),构建面向可解释的多时段短期交通流预测框架(15-60分钟)。该框架引入四个关键贡献:1)基于数据驱动的Composite Selection Score(CSS)用于捕捉交通区域结构多样性;2)在结构化交通提示词上微调的领域适应LLM,编码空间、时间和统计语境;3)FedLLM框架,使异构客户端可通过仅交换轻量级LoRA适配器参数进行协作训练;4)支持上下文推理和跨区域泛化的结构化提示词表示。FedLLM设计允许每个客户端从本地交通模式学习,同时通过高效参数交换贡献于共享全局模型,降低通信开销并保持数据私密。该设置支持非独立同分布(non-IID)交通分布下的学习。实验结果表明,FedLLM在中心化基准之上实现了改进的预测性能,同时生成结构化且可解释的输出。这些发现凸显了将联邦学习与领域适应LLM相结合用于可扩展、隐私感知和可解释交通预测的潜力。

关键词

引用

@article{arxiv.2604.16612,
  title  = {FedLLM: A Privacy-Preserving Federated Large Language Model for Explainable Traffic Flow Prediction},
  author = {Seerat Kaur and Sukhjit Singh Sehra and Dariush Ebrahimi},
  journal= {arXiv preprint arXiv:2604.16612},
  year   = {2026}
}