仅靠 AI 不思考：偏好性 LLM 招聘建议改变人类决策并限制人类自主性

在本研究中，我们进行了一次为期 N=528 的简历筛选实验，人们与模拟展现种族偏好的 AI 模型合作，以评估 16 个高低职位的候选人。模拟 AI 偏好近似于现实中 AI 系统中实际与反事实的种族偏好估计。我们调查了人们对白人、黑人、西班牙人和亚裔候选人的偏好（通过姓名和在质量受控简历上的亲和群体表示），并在 1,526 种情景中测量其在种族与职位之间进行的潜意识联想，这些联想预测了歧视性招聘决策，但尚未在人机协作中受到调查。在不与 AI 或与不展现种族偏好的 AI 合作时，人们会以相同比例选择所有候选人。然而，在与展现特定群体偏好性 AI 互动时，人们也会偏好这些候选人，达到 90% 的频率，表明出现了显著的行为转变。若在进行简历筛选前完成 IAT，选择那些不符合常见种族-职位刻板印象的候选人的概率可提高 13%。最后，即使人们认为 AI 建议质量较差或不重要，他们的决策在特定情况下仍然容易受到 AI 偏好的影响。本工作对人机协作场景中的自主性、AI 与工作、AI 招聘系统的设计与评估以及缓解协作决策中偏好的策略具有深远影响。特别是，组织和监管政策应在实施这些系统、教育使用者以及确定哪些系统需受到监管时，承认 AI-HITL 决策的复杂性。