具有物理约束的现场价值对齐人机交互
机器人学
2025-12-15 v2
摘要
配备大语言模型（LLMs）的以人为中心的机器人现在能够执行以前被认为具有挑战性或无法实现的广泛任务。然而，仅仅完成任务对于认知机器人来说是不够的，它们应该学习并将人类偏好应用于未来的场景。在这项工作中，我们提出了一个将人类偏好与物理约束相结合的框架，要求机器人在完成任务时同时考虑两者。首先，我们开发了一个日常家庭活动基准，这些活动通常根据特定偏好进行评估。然后，我们引入了来自人类反馈的上下文学习（ICLHF），其中人类反馈来自日常生活中的直接指令以及有意或无意的调整。大量的实验测试了 ICLHF 生成任务计划并平衡物理约束与偏好的能力，证明了我们方法的效率。项目页面：https://iclhf.github.io。
引用
@article{arxiv.2508.07606,
title = {In-situ Value-aligned Human-Robot Interactions with Physical Constraints},
author = {Hongtao Li and Ziyuan Jiao and Xiaofeng Liu and Hangxin Liu and Zilong Zheng},
journal= {arXiv preprint arXiv:2508.07606},
year = {2025}
}
备注
8 pages, 7 figures. Accepted by IROS 2025