RLAD:面向城市环境自动驾驶的基于像素的强化学习方法
计算机视觉与模式识别
2023-12-20 v1 人工智能
机器学习
摘要
当前将强化学习(RL)应用于城市自动驾驶(AD)的方法侧重于将感知训练与驾驶策略训练解耦。其主要原因是避免将卷积编码器与策略网络一同训练,这种做法已知存在样本效率低下、特征表示退化以及灾难性自过拟合等问题。然而,该范式可能导致环境表示与下游任务不对齐,从而造成次优性能。为克服此局限,本文提出 RLAD,即首个应用于城市自动驾驶领域的基于像素的强化学习(RLfP)方法。我们提出了若干技术以提升该领域中 RLfP 算法的性能,包括:i) 一种利用图像增强与自适应局部信号混合(A-LIX)层的图像编码器;ii) WayConv1D,一种利用路径点的二维几何信息通过一维卷积提取特征的路径点编码器;iii) 一种辅助损失,用于增强交通灯在环境隐表示中的重要性。实验结果表明,RLAD 在 NoCrash 基准上显著优于所有最先进的 RLfP 方法。我们还给出了在 NoCrash-regular 基准上的违规分析,表明 RLAD 在碰撞率和闯红灯违规方面均优于所有其他方法。
引用
@article{arxiv.2305.18510,
title = {RLAD: Reinforcement Learning from Pixels for Autonomous Driving in Urban Environments},
author = {Daniel Coelho and Miguel Oliveira and Vitor Santos},
journal= {arXiv preprint arXiv:2305.18510},
year = {2023}
}
备注
in IEEE Transactions on Automation Science and Engineering