走出浑浊之中：LLM中的承诺升级现象
人工智能
2025-08-08 v2 人机交互
摘要
大型语言模型(LLM)正在越来越多地被部署在高风险领域的自主决策角色中。然而，由于模型是在人类生成数据上训练的，他们可能继承了系统性扭曲人类判断的认知偏见，包括承诺升级，即决策者由于先前的投资而继续投资于失败行动方案。理解LLM何时展现此类偏见 presents a unique挑战。虽然这些偏见在人类中已为人所知，但是否在LLM中持续表现，或需要特定的触发条件仍不清楚。本文使用四个实验情境中的两个阶段投资任务来调查此问题：模型作为投资者、模型作为顾问、多智能体协商和复合压力情境。在N=6500次试验中，我们发现LLM中偏见的表现高度依赖情境。在个人决策情境(研究1-2，N=4000)中，LLM表现出强大的理性成本效益逻辑，承诺升级现象极小。然而，多智能体协商揭示了惊人的层级效应(研究3，N=500)：尽管非对称层级显示中等程度的升级率(46.2%)，但对称的同级决策制定几乎产生普遍升级(99.2%)。类似地，当受到复合组织和个人压力(研究4，N=2000)时，模型表现出高度程度的承诺升级(平均68.95%的失败部门分配)。这些发现表明，LLM的偏见表现取决于社交和组织情境而非固有因素，对部署多智能体系统和无人化操作具有重大意义。
引用
@article{arxiv.2508.01545,
title = {Getting out of the Big-Muddy: Escalation of Commitment in LLMs},
author = {Emilio Barkett and Olivia Long and Paul Kröger},
journal= {arXiv preprint arXiv:2508.01545},
year = {2025}
}