人类厌恶？AI代理在评估身份时是否比绩效更严厉？
人机交互
2025-04-22 v1 人工智能
综合经济学
经济学
摘要
本研究考察了算法对人类判断在混合决策系统中作用的未被充分研究的方面，这是管理研究中的一个关键空白。虽然现有文献聚焦于人类不愿遵循算法建议，但我们反其道而行之，探讨基于大语言模型(LLM)的AI代理如何评估和整合人类输入。我们的工作针对一项紧迫的管理约束：因隐私顾虑无法直接部署LLM的企业，仍可将其作为中介工具(例如，匿名输出或决策管道)来指导高风险决策，如定价或折扣，而无需暴露专有数据。通过一个受控预测任务，我们分析了基于LLM的AI代理如何权衡人类与算法预测。我们发现，AI系统系统性地贬低人类建议，对人类错误的惩罚比对算法错误更严厉——当AI代理披露身份(人类 vs AI)且人类位居第二时，这种偏好会加剧。这些结果揭示了AI生成的信任指标与人类判断实际影响力之间的断裂，挑战了关于人机协作公平性的假设。我们的发现作出了三项关键贡献。首先，我们识别出一种逆向算法厌恶现象，即AI代理尽管错误率相当，仍低估人类输入。其次，我们展示了披露与位置偏差如何相互放大这一效应，对系统设计具有启示。最后，我们提供了一个在数据隐私方面平衡预测能力的间接LLM部署框架。对于实践者而言，这项研究强调了审计AI赋予机制、校准信任动态以及战略性地设计决策序列在人机系统中的重要性。
引用
@article{arxiv.2504.13871,
title = {Human aversion? Do AI Agents Judge Identity More Harshly Than Performance},
author = {Yuanjun Feng and Vivek Chodhary and Yash Raj Shrestha},
journal= {arXiv preprint arXiv:2504.13871},
year = {2025}
}