中文

MiA-Signature:面向长上下文理解的全局激活近似

计算与语言 2026-05-08 v1

摘要

认知科学领域日益增多的研究表明,可报告的意识访问与分布式记忆系统上的全局点燃(global ignition)相关,然而这种激活只能被部分访问,因为个体无法直接访问或枚举所有被激活的内容。这种矛盾暗示了一种合理的机制,即认知可能依赖于一种紧凑表示,该表示近似激活对下游处理的全局影响。受此启发,我们引入了心智景观激活特征(Mindscape Activation Signature, MiA-Signature)的概念,这是一种由查询引发的、全局激活模式的压缩表示。在大语言模型(LLM)系统中,这是通过对覆盖已激活上下文空间的高层概念进行基于子模的选择来实例化的,并可选择通过工作记忆进行轻量级迭代更新来加以优化。由此产生的 MiA-Signature 作为一种条件信号,在保持计算可处理性的同时近似完整激活状态的效果。将 MiA-Signature 集成到 RAG 和智能体系统中,在多个长上下文理解任务上取得了一致的性能提升。

关键词

引用

@article{arxiv.2605.06416,
  title  = {MiA-Signature: Approximating Global Activation for Long-Context Understanding},
  author = {Yuqing Li and Jiangnan Li and Mo Yu and Zheng Lin and Weiping Wang and Jie Zhou},
  journal= {arXiv preprint arXiv:2605.06416},
  year   = {2026}
}

备注

This is a work in progress; we will continue to revise and improve the manuscript