人机合作中的温情与能力感知

与人类的互动与合作是人工智能(AI)研究的首要目标。近期研究表明，通过深度强化学习训练的AI智能体能够与人类协作。这些研究主要通过任务表现等“客观”指标评估人类兼容性，掩盖了不同智能体所引发信任水平与主观偏好方面的潜在差异。为更好理解人机合作中塑造主观偏好的因素，我们在Coins(一个双人社会困境)中训练深度强化学习智能体。我们招募$N = 501$名参与者进行人机合作研究，并测量他们对所遇智能体的印象。参与者对温情与能力的感知预测了他们对不同智能体的陈述偏好，超出客观性能指标之上。受社会科学与生物学研究启发，我们随后实现一种新的“伙伴选择”框架以引出揭示偏好：在与某智能体玩完一局后，参与者被问及是否愿与同一智能体玩下一局或独自游玩。如同陈述偏好，社会感知比客观表现更能预测参与者的揭示偏好。鉴于这些结果，我们建议人机交互研究者将社会感知与主观偏好的测量常规纳入其研究中。