通过不完美但公平的AI代理克服机器惩罚
人机交互
2025-05-29 v3 人工智能
计算机科学与博弈论
综合经济学
经济学
摘要
尽管技术进步迅速，但有效的人机合作仍是一个重大挑战。人类倾向于与机器合作的程度低于与同伴合作，这被称为机器惩罚现象。本研究表明，由大型语言模型驱动的人工智能代理能够在具有交流的社会困境游戏中克服这一惩罚。在1,152名参与者的预先注册实验中，我们部署了三个不同人格的AI代理：自私型、合作型和公平型。然而，只有公平型代理才能以与人类-人类互动相当的合作率来吸引人类合作。分析结果表明，公平型代理类似于人类参与者，偶尔会违反事前的合作承诺，但仍然有效地建立了合作作为一种社会规范。这些结果挑战了将机器视为利他助手或理性行为者的常规观念。相反，本研究突显了AI代理反映人类社会行为中细微复杂性的重要性——不完美但受深层社会认知过程驱动。
引用
@article{arxiv.2410.03724,
title = {Overcoming the Machine Penalty with Imperfectly Fair AI Agents},
author = {Zhen Wang and Ruiqi Song and Chen Shen and Shiya Yin and Zhao Song and Balaraju Battu and Lei Shi and Danyang Jia and Talal Rahwan and Shuyue Hu},
journal= {arXiv preprint arXiv:2410.03724},
year = {2025}
}