您的学习约束实际上是反可达管
机器人学
2025-08-05 v3 人工智能
机器学习
摘要
逆约束学习 (ICL) 是从安全（即满足约束）演示中推断约束的问题。希望这些推断出的约束可用于下游搜索新的任务下的安全策略，甚至在不同的动力学下使用。我们的论文探讨了 ICL 恢复的数学实体问题。意外地的是，我们在理论和实践中表明，ICL 恢复的是失败不可避免的状态集合，而不是已经发生失败的状态集合。在安全控制语言中，这意味着我们恢复的是反可达管 (BRT) 而非失败集合。与失败集合不同，BRT 取决于数据收集系统的动力学。我们讨论了所恢复约束的动力学条件性对策略搜索样本效率以及学习约束可迁移性的影响。
引用
@article{arxiv.2501.15618,
title = {Your Learned Constraint is Secretly a Backward Reachable Tube},
author = {Mohamad Qadri and Gokul Swamy and Jonathan Francis and Michael Kaess and Andrea Bajcsy},
journal= {arXiv preprint arXiv:2501.15618},
year = {2025}
}
备注
14 pages, 4 figures. Accepted at RLC 2025