涌现的世界信念：在随机博弈中探索Transformer
计算与语言
2026-01-01 v1
摘要
基于Transformer的大型语言模型（LLM）在从解决编程挑战到参与国际象棋等策略密集型博弈等不同领域展现出了强大的推理能力。先前的工作表明，LLM在完全信息博弈中能够发展出涌现的世界模型，其中内部表示对应于环境的潜在状态。在本文中，我们将这一研究线索扩展到不完全信息领域，以扑克作为典型的部分可观测马尔可夫决策过程（POMDP）。我们在扑克手牌历史（PHH）数据上预训练了一个GPT风格的模型，并探测了其内部激活。我们的结果表明，该模型在没有明确指导的情况下，学习到了确定性结构（如手牌大小）和随机特征（如权益）。此外，通过主要使用非线性探针，我们证明了这些表示是可解码的，并且与理论信念状态相关，这表明LLM正在学习它们自己对德州扑克随机环境的表示。
引用
@article{arxiv.2512.23722,
title = {Emergent World Beliefs: Exploring Transformers in Stochastic Games},
author = {Adam Kamel and Tanish Rastogi and Michael Ma and Kailash Ranganathan and Kevin Zhu},
journal= {arXiv preprint arXiv:2512.23722},
year = {2026}
}
备注
Accepted at NeurIPS 2025 Mechanistic Interpretability Workshop