利用计算认知建模理解 AI 种族化对 Pig Chase 任务中人机合作的影响

尽管 AI 系统的拟人化仍在持续，但人机交互中种族化的潜在影响却鲜少被研究。本研究探讨了人机合作如何受到一种信念的影响，即用于训练 AI 系统的数据是种族化的，也就是说，它是在特定人群的数据上训练出来的。在本研究中，参与者使用 Pig Chase 游戏完成了一项人机合作任务。不同自我认同人口统计特征的参与者与被操纵了感知种族身份的 AI 智能体进行了交互，使我们能够评估社会文化视角如何影响参与者在游戏中的决策。游戏结束后，参与者完成了一份调查问卷，以解释他们在玩游戏时使用的策略，并了解其 AI 队友的感知智力。对任务行为数据的统计分析表明，参与者的人口统计特征，以及该自我认同人口统计特征与处理条件（即智能体的感知人口统计特征）之间的交互作用，具有统计学上的显著效应。结果表明，与种族化为黑人的 AI 智能体相比，非白人参与者对种族化为白人的 AI 智能体持积极看法。黑人和白人参与者均对对照组中的 AI 智能体持消极看法。使用 ACT-R 认知架构构建的任务基线认知模型，用于基于研究中发现的结果，理解参与者视角的认知层面、基于过程的解释。该模型帮助我们更好地理解影响游戏参与者决策策略的因素。对这些数据的分析以及认知建模的结果表明，有必要扩展对种族化（无论是隐性的还是显性的）如何影响与 AI 系统交互的理解。