人类大脑与 LLM 之间的类比：发现语法感知中的关键神经元
神经元与认知
2025-11-11 v1 人工智能
计算与语言
摘要
人工神经网络是受人脑神经元网络启发而构建的 AI 系统。多年来，这些网络已演化为复制大脑复杂能力，使其能够处理图像和语言处理等任务。在大型语言模型(LLM)领域，人们热衷于使语言学习过程更类似于人类的学习方式。尽管神经科学研究表明，不同的语法类别由大脑中不同的神经元处理，但我们表明 LLM 也以类似方式运作。利用 Llama 3，我们识别出与预测属于不同词性标签的单词最重要的神经元。通过获得的知识，我们在数据集上训练了一个分类器，显示这些关键神经元的激活模式可可靠地预测新数据上的词性标签。结果表明，LLM 中存在一个专注于捕获词性标签概念的子空间，这类似于神经科学中神经损伤研究中观察到的模式。
引用
@article{arxiv.2511.06519,
title = {On the Analogy between Human Brain and LLMs: Spotting Key Neurons in Grammar Perception},
author = {Sanaz Saki Norouzi and Mohammad Masjedi and Pascal Hitzler},
journal= {arXiv preprint arXiv:2511.06519},
year = {2025}
}