中文

Skill Q-Network:面向未知环境无地图导航的自适应技能集成学习

机器人学 2024-08-28 v3

摘要

本文重点关注在未知环境中获取无地图导航技能。我们提出了 Skill Q-Network(SQN),这是一种具有自适应技能集成机制的新型强化学习方法。与现有方法不同,我们的模型在无需先验知识的情况下,同时学习高级技能决策过程和多个低级导航技能。利用为无地图导航量身定制的奖励函数,SQN 能够学习包含探索和目标导向技能的自适应机动,从而在新的环境中实现有效导航。我们的实验表明,SQN 能够有效地在复杂环境中导航,与基线模型相比性能提高了 40%。在没有明确指导的情况下,SQN 发现了如何结合低级技能策略,在具有挑战性的场景中既展示了到达目的地的目标导向导航,也展示了逃离局部最小区域的探索机动。值得注意的是,我们的自适应技能集成方法能够零样本迁移到分布外领域,这些领域具有来自非凸障碍物或不平整、类似地下环境的未见观测。项目页面可在 https://sites.google.com/view/skill-q-net 获取。

关键词

引用

@article{arxiv.2403.16664,
  title  = {Skill Q-Network: Learning Adaptive Skill Ensemble for Mapless Navigation in Unknown Environments},
  author = {Hyunki Seong and David Hyunchul Shim},
  journal= {arXiv preprint arXiv:2403.16664},
  year   = {2024}
}

备注

8 pages, 8 figures, accepted at the International Conference on Intelligent Robots and Systems (IROS) 2024