物理推理与力的双用途困境
机器人学
2025-05-27 v1
摘要
人类通过复杂的生理和心理学习过程来学习如何以及何时在世界中施加力。试图在视觉语言模型 (VLM) 中复制这一过程 presents two challenges: VLMs 可能产生有害行为，这在受控机器人与世界交互时尤其危险，但施加行为监管措施会限制其功能和伦理范围。我们对两种用于保护生成力学机器人运动的 VLM 进行案例研究，发现保护措施会降低涉及人体部位接触式操作的有害和有帮助行为。然后，我们讨论了这一结果的关键含义——价值对齐可能妨碍理想的机器人能力——对于模型评估和机器人学习。
引用
@article{arxiv.2505.18792,
title = {On the Dual-Use Dilemma in Physical Reasoning and Force},
author = {William Xie and Enora Rice and Nikolaus Correll},
journal= {arXiv preprint arXiv:2505.18792},
year = {2025}
}