大语言模型无法玩弹球：语言代理私有工作记忆的必要性
计算与语言
2026-01-13 v1
摘要
随着大语言模型(LLM)从文本完成走向自主代理，它们仍受限于标准聊天界面，缺乏私有工作记忆。这提出了一个根本问题：代理能否可靠地执行依赖隐藏状态的交互式任务？我们定义了私有状态交互任务(PSITs)，要求代理生成和维护隐藏信息，同时产生一致的公共响应。我们从理论上表明，任何受限于公共对话历史的代理无法在PSITs中同时保持保密性和一致性，导致不可避免的定理。为实证验证这一限制，我们引入了一个自我一致性测试协议，评估代理是否能够在分叉对话分支中维持隐藏秘密。无论规模如何，标准聊天式LLM和基于检索的记忆基线都无法通过此测试，表明语义检索并不足以实现真正的状态维护。为解决此问题，我们提出了一种集成显式私有工作记忆的新型架构；我们展示了该机制能够恢复一致性，确立私有状态是交互式语言代理的必要组成部分。
引用
@article{arxiv.2601.06973,
title = {LLMs Can't Play Hangman: On the Necessity of a Private Working Memory for Language Agents},
author = {Davide Baldelli and Ali Parviz and Amal Zouaq and Sarath Chandar},
journal= {arXiv preprint arXiv:2601.06973},
year = {2026}
}