AnySafe：通过潜在空间中的安全约束参数化在运行时自适应潜在安全滤波器
机器人学
2025-09-25 v1 机器学习
摘要
近期研究表明，基础安全控制方法（如 Hamilton-Jacobi 可达性分析）可应用于世界模型的潜在空间。虽然这使得为难以建模的视觉任务合成潜在安全滤波器成为可能，但这些方法假设安全约束先验已知且在部署期间保持不变，从而限制了安全滤波器在不同场景中的适应性。为此，我们提出参数化约束潜在安全滤波器，可在运行时自适应用户指定的安全约束。我们的核心思想是通过在潜在空间的相似性度量上对表示约束的图像编码进行条件化来定义安全约束。通过共形校准，以原则性的方式将与失败的相似性对齐，从而控制系统可接近约束表示的程度。参数化安全滤波器在世界模型的想象空间中完全训练，将模型看到的任何图像视为潜在的测试时约束，从而实现运行时自适应任意安全约束。在基于视觉的控制任务上使用 Franka 机械臂进行的仿真和硬件实验中，我们证明了我们的方法可通过对用户指定约束图像的编码进行条件化在运行时自适应，且不会牺牲性能。视频结果可在 https://any-safe.github.io 查看。
引用
@article{arxiv.2509.19555,
title = {AnySafe: Adapting Latent Safety Filters at Runtime via Safety Constraint Parameterization in the Latent Space},
author = {Sankalp Agrawal and Junwon Seo and Kensuke Nakamura and Ran Tian and Andrea Bajcsy},
journal= {arXiv preprint arXiv:2509.19555},
year = {2025}
}