基于图强化学习的电动自动驾驶按需出行系统实时控制
系统与控制
2024-08-21 v2 机器学习
机器人学
系统与控制
摘要
电动自动驾驶按需出行(E-AMoD)车队的运营者需要做出若干实时决策,例如将可用车辆与出行请求匹配、将空闲车辆重新调度至高需求区域,以及为车辆充电以确保充足续航。虽然该问题可表述为在空间-电荷-时间图上优化流的线性规划,但由此产生的优化问题规模无法在现实环境中实时求解。本工作中,我们通过强化学习的视角呈现 E-AMoD 控制问题,并提出一种基于图网络的框架,以相比启发式方法大幅提升可扩展性与性能。具体而言,我们采用双层公式:其中(1)利用基于图网络的 RL 智能体在空间-电荷图中指定期望的下一状态,(2)求解更易处理的线性规划以在确保可行性的同时最优实现期望状态。使用旧金山与纽约市真实世界数据的实验表明,我们的方法达到了理论最优解利润的 89%,同时计算时间提速超过 100 倍。我们进一步凸显了所学策略在跨城市泛化与服务区域扩展等任务上的有前景的零样本迁移能力,从而展示了我们框架的实用性、可扩展性与灵活性。最后,我们的方法以可比的运行时间优于最佳领域特定启发式方法,利润提升高达 3.2 倍。
引用
@article{arxiv.2311.05780,
title = {Real-time Control of Electric Autonomous Mobility-on-Demand Systems via Graph Reinforcement Learning},
author = {Aaryan Singhal and Daniele Gammelli and Justin Luke and Karthik Gopalakrishnan and Dominik Helmreich and Marco Pavone},
journal= {arXiv preprint arXiv:2311.05780},
year = {2024}
}
备注
9 pages, revised SF travel data, includes additional experimental results, content and clarification revisions per reviewer feedback, and typo fixes