一致性轨迹规划:基于离线模型强化学习的高质量高效轨迹优化
人工智能
2025-07-15 v1 机器学习
机器人学
摘要
本文介绍了一致性轨迹规划(Consistency Trajectory Planning, CTP),这是一种新颖的离线模型基强化学习方法,利用最近提出的一致性轨迹模型(Consistency Trajectory Model, CTM)实现高效轨迹优化。虽然先前将扩散模型应用于规划的工作已显示出强大的性能,但由于迭代抽样过程往往导致高计算成本。CTP支持快速的单步轨迹生成,在策略质量方面几乎没有显著下降。我们在D4RL基准测试中评估了CTP,证明其在长时程、目标条件任务中持续优于现有的扩散基规划方法。值得注意的是,CTP在使用显著更少的去噪步骤的情况下,实现了更高的归一化回报。特别地,CTP在推理时间上实现了超过的加速,实现了与其它方法相当的性能,展示了其在高性能、低延迟离线规划中的实用性和有效性。
引用
@article{arxiv.2507.09534,
title = {Consistency Trajectory Planning: High-Quality and Efficient Trajectory Optimization for Offline Model-Based Reinforcement Learning},
author = {Guanquan Wang and Takuya Hiraoka and Yoshimasa Tsuruoka},
journal= {arXiv preprint arXiv:2507.09534},
year = {2025}
}