梦幻猎鹰:面向四旋翼无人机的物理信息模型强化学习
机器人学
2025-11-25 v1
摘要
当前的空中机器人控制算法在动态环境和恶劣条件下鲁棒性方面存在挑战。模型基准强化学习(RL)在处理这些挑战方面表现出强大的潜力,同时保持样本效率。此外,Dreamer已显示在基于回放缓冲区数据训练的循环世界模型下,可实现在线模型基准RL。然而,将Dreamer应用于空中系统具有相当大的挑战,由于其样本效率差和动态模型的泛化能力差。我们的工作探索了物理信息化的世界模型学习方法,并改进了策略性能。世界模型将四旋翼无人机视为自由刚体系统,预测其所受净力和力矩,然后通过6-DOF Runge-Kutta积分器(RK4)预测未来状态滚动。本文将物理信息化方法与标准RNN-based世界模型进行比较。尽管两种模型在训练数据上表现良好,但我们观察到它们在新轨迹上难以泛化,导致状态滚动快速发散,阻止策略收敛。
引用
@article{arxiv.2511.18243,
title = {Dreaming Falcon: Physics-Informed Model-Based Reinforcement Learning for Quadcopters},
author = {Eashan Vytla and Bhavanishankar Kalavakolanu and Andrew Perrault and Matthew McCrink},
journal= {arXiv preprint arXiv:2511.18243},
year = {2025}
}