为何大语言模型在战略博弈中表现不佳？关于观察、信念与行动之间断裂的联系
计算与语言
2026-05-04 v1 人工智能
计算机科学与博弈论
摘要
大语言模型（LLMs）日益被用于在信息不完全的情况下进行战略决策，例如在谈判和政策制定中。尽管 LLMs 在许多此类任务中表现出色，但也会以引人注目的错误形式失败，这些错误模式尚不被充分理解。我们通过揭示 LLMs 在信息不完全游戏中决策机制背后存在的两个根本性缺口来阐明这些失败，借助对开源模型 Llama 3.1、Qwen3 和 gpt-oss 的实验验证。第一，观察-信念缺口：LLMs 对潜在游戏状态的内部信念准确性显著高于其自我叙述的准确性，然而这些信念却脆弱。具体而言，信念准确性在多跳推理中 degrades，会出现优先权和尾随权偏差，并且在持续交互过程中远离贝叶斯一致性。第二，信念-行动缺口：内部信念向行动的隐式转换劣于在提示中外部化的信念向行动的转换，但信念条件化并不一致地实现更高的游戏收益。这些结果表明，分析 LLMs 的内部过程可揭示系统性漏洞，在部署 LLMs 于战略领域而无 robust guardrails 之前应持谨慎态度。
引用
@article{arxiv.2605.00226,
title = {Why Do LLMs Struggle in Strategic Play? Broken Links Between Observations, Beliefs, and Actions},
author = {Jan Sobotka and Mustafa O. Karabag and Ufuk Topcu},
journal= {arXiv preprint arXiv:2605.00226},
year = {2026}
}