中文

基于深度确定性策略梯度与协同自适应巡航控制的混合跟车策略

人工智能 2022-01-12 v2 机器学习 系统与控制 系统与控制

摘要

基于深度确定性策略梯度(DDPG)的跟车策略因其在复杂环境下的探索能力,可突破微分方程模型的约束。然而,DDPG 的跟车性能常因奖励函数设计不合理、训练不足及采样效率低而下降。为解决此类问题,提出一种基于 DDPG 与协同自适应巡航控制(CACC)的混合跟车策略。首先,将跟车过程建模为马尔可夫决策过程,在每一帧同时计算 CACC 与 DDPG。给定当前状态,分别从 CACC 与 DDPG 得到两个动作。随后,选取对应奖励更大的最优动作作为混合策略输出。同时,设计规则以确保加速度变化率小于期望值。因此,所提策略既通过 CACC 保证跟车基本性能,又借助 DDPG 充分利用其在复杂环境下探索的优势。最后,仿真结果表明所提策略的跟车性能优于 DDPG 与 CACC。

关键词

引用

@article{arxiv.2103.03796,
  title  = {Hybrid Car-Following Strategy based on Deep Deterministic Policy Gradient and Cooperative Adaptive Cruise Control},
  author = {Ruidong Yan and Rui Jiang and Bin Jia and Jin Huang and Diange Yang},
  journal= {arXiv preprint arXiv:2103.03796},
  year   = {2022}
}

备注

9 pages, 11 figures