开源大语言模型驱动的联邦 Transformer 用于预测性车联网管理
人工智能
2026-03-24 v2 新兴技术
机器学习
摘要
车联网 (IoV) 生态系统中联网车辆的激增，在确保可扩展、实时且保护隐私的交通管理方面带来了严峻挑战。现有的集中式 IoV 解决方案通常存在高延迟、有限的可扩展性以及对专有人工智能 (AI) 模型的依赖，构成了广泛部署的重大障碍，特别是在动态和隐私敏感的环境中。同时，大语言模型 (LLMs) 在车辆系统中的集成仍待深入探索，尤其是在提示词优化及其在联邦环境中的有效利用方面。为了应对这些挑战，我们提出了联邦提示词优化交通 Transformer (Federated Prompt-Optimized Traffic Transformer, FPoTT)，这是一种利用开源 LLMs 进行预测性 IoV 管理的新颖框架。FPoTT 引入了一种动态提示词优化机制，通过迭代细化文本提示来增强轨迹预测。该架构采用双层联邦学习范式，将用于实时推理的轻量级边缘模型与基于云的 LLMs 相结合，以保留全局智能。此外，集成了一个 Transformer 驱动的合成数据生成器，以 Next Generation Simulation (NGSIM) 格式生成多样化、高保真度的交通场景来增强训练。广泛评估表明，采用 EleutherAI Pythia-1B 的 FPoTT 在真实世界数据上实现了 99.86% 的预测准确率，同时在合成数据集上也保持了高性能。这些结果突显了开源 LLMs 在实现安全、自适应且可扩展的 IoV 管理方面的潜力，为智能出行生态系统中的专有解决方案提供了一种有前景的替代方案。
引用
@article{arxiv.2505.00651,
title = {Open-Source LLM-Driven Federated Transformer for Predictive IoV Management},
author = {Yazan Otoum and Arghavan Asad and Ishtiaq Ahmad},
journal= {arXiv preprint arXiv:2505.00651},
year = {2026}
}
备注
Preprint version; submitted for academic peer review