认知负荷感知推理：优化大语言模型Token经济的神经符号框架

大语言模型（LLM）推理不断攀升的计算成本已成为其广泛和可持续部署的关键障碍。虽然现有的优化策略是有效的，但它们主要基于统计启发式或架构修改，缺乏指导推理过程本身的认知理论。本文旨在通过引入一种新颖的范式来弥合这一差距：认知负荷感知推理（CLAI）框架，该框架将认知负荷理论（CLT）和神经科学的原理应用于LLM推理。我们将内在认知负荷、外在认知负荷和相关认知负荷的概念形式化为可量化的LLM指标（$ICL_{LLM}$、$ECL_{LLM}$和$GCL_{LLM}$），从而将推理过程重新构建为一个认知经济学优化问题：基于问题的内在复杂性（$ICL_{LLM}$），最小化浪费的计算（$ECL_{LLM}$），并将token预算战略性地分配给生产性推理（$GCL_{LLM}$）。我们提出了两条实现路径：CLAI-Prompt，一种零样本方法，通过结构化的元提示引导基础LLM完成认知控制步骤；以及CLAI-Tune，一个微调模型，将这些原则内化以实现自发的认知经济性。在复杂推理、长上下文问答和代码生成的一系列基准测试中，我们的方法在不牺牲准确性的情况下显著减少了token消耗（最高达45%）。此外，CLAI-Tune展现出自主分解难题的新兴能力，这是人类专家认知的一个关键特征。这项工作表明，通过模拟大脑的资源管理策略，我们可以构建更高效、更稳健、能力更强的人工智能系统。