具内在更高心智状态动力学的可扩展机器
机器学习
2026-03-17 v1 人工智能
摘要
基于最近的细胞神经生物学突破和详细生物物理建模，将神经皮层锥体细胞与不同心智状态状态相联系，本工作引入了数学公式，表明模型（如Transformer）可实现 awake imaginative thought 所基于的计算原理，以在注意力应用前选择相关信息。三元调制环路在查询（Q）、键（K）和值（V）之间实现。针对 ImageNet-1K 进行可扩展性实验，与标准视觉Transformer（ViT）进行基准测试，结果显示学习速度显著加快，计算需求显著降低（更少的注意力头、层数和标记数），这与我们先前在强化学习和语言建模中的发现相一致。该方法的复杂度约为 ，其中 N 为输入标记数。
引用
@article{arxiv.2603.13453,
title = {Scalable Machines with Intrinsic Higher Mental-State Dynamics},
author = {Ahsan Adeel and M. Bilal},
journal= {arXiv preprint arXiv:2603.13453},
year = {2026}
}