另一种心智:语言模型如何展现人类类时间认知
人工智能
2025-07-22 v1
摘要
随着大型语言模型(LLM)的持续进步,它们呈现出某些类似于人类认知模式的行为,这些行为并非直接体现在训练数据中。本研究聚焦于语言模型中的时间认知现象。通过利用相似性判断任务,我们发现更大的模型会自主建立主观的时间参考点,并遵循韦伯-费米定律,即随着年份远离该参考点,感知距离会发生对数压缩。为探索这一行为背后的机制,我们在神经、表征和信息三个层面进行了多项分析。我们首先识别出一组时间偏好神经元,该组在主观参考点处表现出最小激活,并实现了在生物系统中也常见的对数编码方案。对年份表征的探测揭示了层次构建过程,即年份从浅层的基本数值演化为深层的抽象时间取向。最后,通过预训练嵌入模型,我们发现训练语料本身具有内在的非线性时间结构,为模型内部构建提供了原始材料。在讨论部分,我们提出了一种经验主义视角,用以理解这些发现,即将语言模型的认知视为其内部表征系统对外部世界的主观建构。这种细致的视角意味着可能出现无法被人类直观预测的外星认知框架,指向以引导内部建构为导向的人工智能对齐方向。我们的代码已公开于 https://TheOtherMind.github.io。
引用
@article{arxiv.2507.15851,
title = {The Other Mind: How Language Models Exhibit Human Temporal Cognition},
author = {Lingyu Li and Yang Yao and Yixu Wang and Chubo Li and Yan Teng and Yingchun Wang},
journal= {arXiv preprint arXiv:2507.15851},
year = {2025}
}
备注
12 pages, 9 figures, 4 tables