大语言模型作为战略代理人:信念、最佳响应行为与涌现启发式
人工智能
2025-10-14 v1 计算机科学与博弈论
摘要
大语言模型(LLMs)正在应用于需要推理其他代理人行为的领域,如谈判、政策设计和市场模拟,但现有研究大多只评估它们遵循均衡博弈或展示的推理深度。是否显示出真正的战略思维——即围绕其他代理人的信念的一致性形成、对可能行动的评估以及基于这些信念的选择——仍未探讨。我们发展了一个框架来识别这种能力通过在静态、完全信息博弈中分离信念、评估和选择,并将其应用于一系列非合作环境。通过联合分析模型的公开选择和推理痕迹,并引入新颖的无上下文博弈以排除来自记忆的模仿,我们展示当前前沿模型在特定推理深度上表现出信念一致的最佳响应行为。当不受约束时,它们会限制自身的推理深度并对人类和合成对手形成不同的猜测,揭示出一种涌现的元推理形式。在增加复杂度时,显式递归让位于内部生成的选择启发式规则,这些规则在模型特定且稳定,与已知的人类偏见不同。这些发现表明,信念一致性、元推理和新颖的启发式形成可以从语言建模目标中共现,为人工智能代理人战略认知研究提供了结构化基础。
引用
@article{arxiv.2510.10813,
title = {LLMs as Strategic Agents: Beliefs, Best Response Behavior, and Emergent Heuristics},
author = {Enric Junque de Fortuny and Veronica Roberta Cappelli},
journal= {arXiv preprint arXiv:2510.10813},
year = {2025}
}