中文

语言模型的统一认知意识理论:锚定语义、激活阈值与涌现推理

人工智能 2025-12-02 v5

摘要

我们提出语义锚定,一个关于大语言模型如何将预训练能力转化为目标导向行为的统一解释:外部结构(上下文示例、检索或轻量微调)将模型的潜在模式绑定到期望目标。统一上下文控制理论(UCCT)通过锚定强度 S=ρddrlogkS = \rho_d - d_r - \log k 将其形式化,其中 ρd\rho_d 衡量表示空间中的目标内聚度,drd_r 衡量与先验知识的错配程度,kk 是锚定预算。UCCT 预测了阈值般的性能翻转,并严格泛化了上下文学习,将阅读检索和微调解读为锚定变体。三项受控研究提供了证据。实验 1 展示了文本和视觉中的跨域锚定重绑定强先验。实验 2 在固定复杂度下通过数基(base-10/8/9)改变表示熟悉度,产生了有序的阈值和追踪 ρd\rho_ddrd_rSS 的迁移模式。实验 3 确立了从几何到行为的关联:逐层峰值锚定和轨迹面积预测了少样本阈值 θ50\theta_{50}。UCCT 为优化提示、检索和微调提供了可测试的理论和实用指标。

关键词

引用

@article{arxiv.2506.02139,
  title  = {The Unified Cognitive Consciousness Theory for Language Models: Anchoring Semantics, Thresholds of Activation, and Emergent Reasoning},
  author = {Edward Y. Chang and Zeyneb N. Kaya and Ethan Chang},
  journal= {arXiv preprint arXiv:2506.02139},
  year   = {2025}
}

备注

21 pages, 7 figure, 4 table