可控互补性：人机协作中的主观偏好

关于人机协作的研究通常优先考虑客观性能。然而，理解人类的主观偏好对于改善人机互补性和人类体验至关重要。我们使用行为塑造（BS）——一种允许人类对 AI 行为进行显式控制的强化学习算法，研究了在具有 AI 伙伴的共享工作空间任务中人类对可控性的偏好。在一项实验中，我们验证了当控制被隐藏时，与自博弈策略相比，BS 在产生有效 AI 策略方面的鲁棒性。在另一项实验中，我们启用了人类控制，表明当参与者能够直接决定 AI 行为时，他们认为 AI 伙伴更有效且更令人愉悦。我们的发现强调了设计兼顾任务性能和人类主观偏好的 AI 的必要性。通过使 AI 行为与人类偏好对齐，我们展示了人机互补性如何能够超越客观结果，将主观偏好纳入其中。