协作机器人应当透明吗？
机器人学
2025-05-19 v3
摘要
我们常假设与人类协作的机器人应以透明的方式行事（例如，易读、可解释）。这些透明机器人有意选择传达其内部状态给附近人类的行为：例如，透明机器人可能夸大其轨迹以指示其目标。但尽管透明行为似乎有益于人机交互，它真的最优吗？本文考虑人机具有相同目标、且人类不确定机器人类型（即机器人内部状态）的协作场景。我们扩展贝叶斯纳什均衡与贝尔曼方程的递归组合以求解最优机器人策略。有趣的是，我们发现协作机器人并非总是最优地保持透明；相反，当机器人不透明时，人机团队有时能获得更高回报。与透明机器人不同，不透明机器人选择向人类隐瞒信息的动作。我们的分析表明，当（a）人机交互时间视野较短或（b）用户从机器人动作中学习较慢时，不透明行为变得最优。我们将该理论分析扩展到涵盖线上与线下共 43 名参与者的用户研究。我们发现——在短暂交互期间——用户与不透明伙伴协作时获得更高回报，且主观评价不透明机器人与透明机器人大致相当。实验视频见：https://youtu.be/u8q1Z7WHUuI
引用
@article{arxiv.2304.11753,
title = {Should Collaborative Robots be Transparent?},
author = {Shahabedin Sagheb and Soham Gandhi and Dylan P. Losey},
journal= {arXiv preprint arXiv:2304.11753},
year = {2025}
}