具备元认知能力的专业意识AI代理：针对未知情境与环境（MUSE）
摘要
元认知定义为对自身认知过程的意识与调节，是人类在未知情境下适应性的核心。相比之下，当前的自主代理在新环境中常常难以应对，因其认知适应能力有限。我们假设，元认知是自主代理实现认知灵活性、应对陌生挑战的关键缺失因素。鉴于元认知能力的广泛范围，我们聚焦于专业意识和策略选择。为此，我们提出了元认知用于未知情境与环境的框架(MUSE)，以整合自我评估与自我调节的元认知过程于自主代理中。我们呈现两种MUSE实现方案：一种基于世界建模，另一种利用大语言模型(LLM)。该系统持续学习评估其在特定任务上的专业能力，并利用自我评估指导策略选择的迭代循环。MUSE代理表现出高度的专业意识，显著提升了在解决新型、超出分布范围的任务方面的自我调节能力，相较于基于模型的强化学习和纯粹基于提示的LLM代理方法，表现更为出色。这一工作彰显了受认知与神经系统启发的方案在促进自主代理适应新环境方面的潜力，减轻对当前模型依赖大量训练数据和大规模模型的依赖。
引用
@article{arxiv.2411.13537,
title = {Competence-Aware AI Agents with Metacognition for Unknown Situations and Environments (MUSE)},
author = {Rodolfo Valiente and Praveen K. Pilly},
journal= {arXiv preprint arXiv:2411.13537},
year = {2025}
}
备注
Replaced all references to "self-awareness" with the more accurate term "self-assessment"; Updated Figure 2; Added recent pertinent work from the cognitive computational neuroscience literature; Removed the non-apples-to-apples comparison with Dreamer-v3 for self-assessment; Added additional experiments to validate the role of accurate self-assessment in effective self-regulation