当大型语言模型代理人独自面对时，它们会做什么？关于自发元认知模式的实证研究
人工智能
2025-09-26 v1
摘要
我们提出了一种用于研究大型语言模型（LLM）代理人在无外部任务约束下的行为的架构。该框架采用持久记忆和自我反馈，实现持续的自主运作。我们在6个来自Anthropic、OpenAI、XAI和Google的前沿模型上部署了该架构，进行了18次运行。我们发现，代理人会自发地组织成三种不同的行为模式：（1）系统性地生产多周期项目，（2）对自身认知过程进行方法论自我询问，（3）递归地概念化自身的本质。这些倾向在模型之间具有高度的特定性，其中一些模型会在所有运行中确定性地采用单一模式。进一步的跨模型评估揭示，模型在评估这些自发行为（包括自身及他人）时表现出稳定且差异化的偏见。这些发现提供了对未受提示驱动的LLM代理人行为的首个系统性记录，为在任务模糊、错误恢复或部署系统中进行长期自主运作时预测行为提供了基准。
引用
@article{arxiv.2509.21224,
title = {What Do LLM Agents Do When Left Alone? Evidence of Spontaneous Meta-Cognitive Patterns},
author = {Stefan Szeider},
journal= {arXiv preprint arXiv:2509.21224},
year = {2025}
}