情绪导驱动的 AI：大语言模型在公平性强制执行中优先考虑情绪而非成本
计算与语言
2025-10-22 v1 人工智能
摘要
情绪指导人类决策，但大语言模型(LLM)是否类似地使用情绪尚不为人知。我们通过altruistic third-party punishment 测试这一问题，即观察者因个人成本来强制执行公平性，这是人类道德和常由负面情绪驱动的标志。在 4,068 个 LLM 代理与 1,159 名成年人跨 796,100 次决策的大规模比较中发现，LLM 使用情绪来指导惩罚，甚至在某些方面比人类更为强烈：不公平诱发更强的负面情绪，导致更多惩罚；惩罚不公平会产生更多积极情绪；关键的是，引导情绪自我报告会因果性地增加惩罚。然而，机制存在差异：LLM 在情绪上优先于成本，以近乎全或无的方式执行规范，降低了对成本的敏感性，而人类则平衡公平性和成本。值得注意的是，推理模型(o3-mini、DeepSeek-R1)在成本敏感性和接近人类行为方面优于基础模型(GPT-3.5、DeepSeek-V3)，但仍高度依赖情绪。这些发现为 LLM 中情绪导驱动的道德决策提供了首要的因果证据，并揭示了成本校准和细致公平性判断方面的缺陷，类似于人类早期阶段的反应。我们提出 LLM 沿着与人类发展相同轨迹发展；未来的模型应将情绪与情境敏感推理相结合，以实现人类水平的情绪智能。
引用
@article{arxiv.2510.17880,
title = {Outraged AI: Large language models prioritise emotion over cost in fairness enforcement},
author = {Hao Liu and Yiqing Dai and Haotian Tan and Yu Lei and Yujia Zhou and Zhen Wu},
journal= {arXiv preprint arXiv:2510.17880},
year = {2025}
}