从神经元到语义：基于神经元对齐评估大语言模型的跨语言对齐能力

大语言模型(LLMs)已展示出惊人的多语言能力，但如何评估跨语言对齐仍鲜有探索。现有对齐基准主要关注句子嵌入，但 prior研究表明，神经模型倾向于诱导非光滑的表示空间，这会影响对低资源语言语义对齐的评估。灵感来自神经科学发现，类似信息激活的神经区域重叠，我们提出一种新颖的基于神经元状态的跨语言对齐(NeuronXA)，用于评估LLMs的跨语言对齐能力，提供更语义化的方式来评估跨语言对齐。我们在多个主流多语言LLMs(LLaMA、Qwen、Mistral、GLM和OLMo)上评估NeuronXA，涵盖两个转移任务和三个多语言基准。结果表明，仅需100对平行句子，NeuronXA即可实现与下游任务性能0.9556的皮尔逊相关系数和0.8514的可转移性。这些发现表明NeuronXA在评估跨语言对齐和可转移性方面效果出色，即使数据集很小。这凸显了其在推动跨语言对齐研究和改进多语言LLM语义理解方面的潜力。