BriLLM：类脑大语言模型
计算与语言
2025-09-09 v8 人工智能
摘要
我们介绍了 BriLLM，一种类脑大语言模型，它通过实现信号全连接流学习从根本上重新定义了机器学习的基础。这项工作解决了阻碍人工智能向通用人工智能（AGI）发展的关键瓶颈——语言模型与“世界模型”之间的脱节——以及植根于传统表示学习范式的基于 Transformer 架构的根本局限性。BriLLM 结合了两个关键的神经认知原则：（1）静态语义映射，将 token 映射到类似于皮层区域的专门节点；以及（2）动态信号传播，模拟在大脑活动中观察到的电生理信息动态。该架构实现了多项变革性突破：自然的多模态兼容性、节点级别的完全模型可解释性、与上下文长度无关的扩展，以及首次针对语言任务进行的全局规模的类脑信息处理模拟。我们最初的 1-2B 参数模型成功复现了 GPT-1 级别的生成能力，同时表现出稳定的困惑度下降。可扩展性分析证实了能够处理 40,000-token 词表的 100-200B 参数变体的可行性。该范式得到了奥卡姆剃刀原理（体现在直接语义映射的简洁性中）和自然演化（鉴于大脑经实证验证的 AGI 架构）的双重支持。BriLLM 为 AGI 的发展建立了一个新颖的、基于生物学的框架，解决了当前方法的根本局限性。
引用
@article{arxiv.2503.11299,
title = {BriLLM: Brain-inspired Large Language Model},
author = {Hai Zhao and Hongqiu Wu and Dongjie Yang and Anni Zou and Jiale Hong},
journal= {arXiv preprint arXiv:2503.11299},
year = {2025}
}