迈向安全的机器人基础模型
机器人学
2025-03-11 v1
摘要
机器人基础模型具备在从工业应用到家庭任务的多样化环境中部署的潜力。当前研究主要集中在策略在多种任务上的泛化能力，却未能解决安全性这一现实系统部署的关键要求。在本文中，我们引入了一个安全层，旨在适当地约束任何通用策略的动作空间。我们的方法使用 ATACOM，这是一种安全强化学习算法，能够创建安全动作空间，从而确保安全的状态转移。通过将 ATACOM 扩展至通用策略，我们的方法促进了其在安全关键场景中的部署，且无需任何特定的安全微调。我们在空气曲棍球环境中展示了该安全层的有效性，它防止了击球智能体与周围环境发生碰撞，这是在通用策略中观察到的一种失败模式。
引用
@article{arxiv.2503.07404,
title = {Towards Safe Robot Foundation Models},
author = {Maximilian Tölle and Theo Gruner and Daniel Palenicek and Jonas Günster and Puze Liu and Joe Watson and Davide Tateo and Jan Peters},
journal= {arXiv preprint arXiv:2503.07404},
year = {2025}
}