交通网络中基于强化学习与 AI 的分布偏移问题
人工智能
2025-09-22 v1 系统与控制
系统与控制
摘要
机器学习和人工智能在智能交通网络中的应用在过去几年显著增加。在这些机器学习和人工智能方法中,强化学习(RL)已被多位作者证明是一种极具前景的方法。然而,在交通信号控制中使用强化学习的一个问题是,由于输入数据的动态分布相对于训练数据分布的变化,训练好的 RL 智能体的可靠性受到影响。这对训练好的 AI 智能体网络构成了重大挑战和可靠性问题,如果找不到合适的解决方案,可能导致非常不利甚至有害的后果。几位研究人员已尝试使用不同方法解决此问题。特别是,元强化学习 promising 地成为有效解决方案。在本文中,我们评估和分析了一种最先进的元强化学习方法 MetaLight,并表明:虽然在某些条件下 MetaLight 确实能取得合理良好的结果,但在其他条件下其表现可能不佳(误差高达 22%),这表明元强化学习方案往往不够稳健,甚至可能引发重大可靠性问题。
引用
@article{arxiv.2509.15291,
title = {The Distribution Shift Problem in Transportation Networks using Reinforcement Learning and AI},
author = {Federico Taschin and Abderrahmane Lazaraq and Ozan K. Tonguz and Inci Ozgunes},
journal= {arXiv preprint arXiv:2509.15291},
year = {2025}
}