脑中的向量量化:网格状编码在世界模型中的应用
机器学习
2025-10-21 v1 人工智能
摘要
我们提出网格状码量化(Grid-like Code Quantization, GCQ),一种受脑干启发的用于将观察-动作序列压缩为离散表示的方法,通过流动力学中的网格状模式进行空间-时间压缩。与传统向量量化方法在静态输入上 operate 不同,GCQ通过基于动作的码book进行时空压缩,其中codeword源自连续的吸引子神经网络,并根据动作动态选择。这使GCQ能够联合压缩空间和时间,作为统一的世界模型。 resulting representation supports long-horizon prediction, goal-directed planning, and inverse modeling. 实验在多种任务上表明,GCQ在紧凑编码和下游性能方面均有效。我们的工作为高效序列建模提供了计算工具,也为神经系统中网格状码的形成提供了理论视角。
引用
@article{arxiv.2510.16039,
title = {Vector Quantization in the Brain: Grid-like Codes in World Models},
author = {Xiangyuan Peng and Xingsi Dong and Si Wu},
journal= {arXiv preprint arXiv:2510.16039},
year = {2025}
}