Safe Planner：赋能大预训练模型的安全意识以实现机器人任务规划

机器人任务规划对于自主机器人在长期挑战性任务中的表现是一个重要问题。随着大预训练模型展现出优异的规划能力，近期研究探索利用大模型实现机器人在多样化任务中的自主规划。然而，由于大模型是使用互联网数据预训练的，缺乏真实任务场景的知识，作为规划器的大模型可能做出伤害机器人和周围环境的危险决策。为解决这一挑战，我们提出了一种名为 Safe Planner 的新框架，通过赋予大预训练模型安全意识来实现安全且可执行的规划。在该框架中，我们开发了一个安全预测模块来引导高层大模型规划器，且该安全模块在模拟器中训练后可有效迁移到真实任务。我们对模拟环境和真实机器人均评估了所提出的 Safe Planner 框架。实验结果表明，Safe Planner 不仅达到了最先进的任务成功率，还显著提升了任务执行过程中的安全性。实验视频见 https://sites.google.com/view/safeplanner。