CVLight:基于联网车辆的自适应交通信号控制去中心化学习
机器学习
2022-07-04 v3 人工智能
系统与控制
系统与控制
摘要
本文开发了一种用于多交叉口自适应交通信号控制(TSC)的去中心化强化学习(RL)方案,称为“CVLight”,其利用从联网车辆(CVs)收集的数据。状态与奖励设计促进了智能体间的协调,并考虑了由CVs收集的通行延误。提出了一种新颖的算法——非对称优势 actor-critic(Asym-A2C),其中CV与非CV信息均被用于训练评论家网络,而仅使用CV信息来执行最优信号配时。综合实验表明,在各种交通需求模式与渗透率的2×2合成路网下,CVLight优于最先进算法。随后对所学策略进行可视化以进一步展示Asym-A2C的优势。应用了一种预训练技术以提升CVLight的可扩展性,其显著缩短了训练时间,并在5×5路网下展现出性能优势。在美国宾夕法尼亚州州学院的一个2×2路网上进行了案例研究,以进一步证明所提算法在真实场景下的有效性。与其他基线模型相比,训练好的CVLight智能体可仅基于CV数据高效控制多个交叉口,并取得最佳性能,尤其在低CV渗透率下。
引用
@article{arxiv.2104.10340,
title = {CVLight: Decentralized Learning for Adaptive Traffic Signal Control with Connected Vehicles},
author = {Mobin Zhao and Wangzhi Li and Yongjie Fu and Kangrui Ruan and Xuan Di},
journal= {arXiv preprint arXiv:2104.10340},
year = {2022}
}
备注
29 pages, 14 figures