生成式机器人策略的运行时失败预测
机器人学
2025-10-14 v2 人工智能
机器学习
摘要
利用扩散和流匹配等生成模型进行模仿学习（IL），使机器人能够执行复杂的长时序任务。然而，来自未见环境的分布偏移或累积动作误差仍可能导致不可预测和不安全的行为，从而导致任务失败。因此，在运行时进行早期失败预测对于将机器人部署到以人为中心和安全性至关重要的环境中至关重要。我们提出了 FIPER，一个用于生成式 IL 策略的运行时失败预测通用框架，无需失败数据。FIPER 识别了两个即将失败的关键指标：（i）通过策略嵌入空间中的随机网络蒸馏检测到的分布外（OOD）观测，以及（ii）通过一种新颖的动作块熵分数衡量的生成动作的高不确定性。两个失败预测分数均通过共形预测使用少量成功轨迹进行校准。当两个指标在短时间窗口内聚合后超过其阈值时，触发失败警报。我们在五个涵盖多种失败模式的仿真和真实环境中评估了 FIPER。结果表明，FIPER 比现有方法更好地区分实际失败与良性 OOD 情况，并且更准确、更早地预测失败。因此，我们认为这项工作是迈向更具可解释性和更安全的生成式机器人策略的重要一步。代码、数据和视频可在 https://tum-lsy.github.io/fiper_website 获取。
引用
@article{arxiv.2510.09459,
title = {Failure Prediction at Runtime for Generative Robot Policies},
author = {Ralf Römer and Adrian Kobras and Luca Worbis and Angela P. Schoellig},
journal= {arXiv preprint arXiv:2510.09459},
year = {2025}
}
备注
Project page: https://tum-lsy.github.io/fiper_website. 33 pages, 12 figures. Accepted to NeurIPS 2025