大语言模型中语言无关知识神经元的深度探索
计算与语言
2024-11-27 v1
摘要
大语言模型（LLMs）通过在大规模语料库上的自监督预训练学习到了庞大的事实知识，同时也展现出卓越的多语言能力，能够将所学知识表述为多种语言。然而，LLMs 中知识存储机制仍然是谜一样的。一些研究者尝试从知识神经元的视角解密 LLMs 中的事实知识，随后发现存在跨语言的知识神经元，这些神经元以超越语言障碍的形式存储事实知识。然而，既有的初步发现存在两个局限性：1）局部结果的高不确定性。现有研究仅使用基于提示的探针方法为每个事实局部化知识神经元，而 LLMs 无法对语义等价查询提供一致答案。这导致局部化结果不准确且不确定性高。2）对更多语言的分析不足。该研究仅在英语和中文数据上分析语言无关知识神经元，未探索更多语言家族和语言。这自然限制了发现的普遍性。为此，我们首先构建了一个名为 Rephrased Multilingual LAMA（RML-LAMA）的新基准，包含每个事实的高质量多语言平行查询。随后，我们提出了一种新方法，即带不确定性估计的多语言集成梯度（MATRICE），在知识局部化过程中量化查询和语言之间的不确定性。大量实验表明，我们的方法能够准确局部化语言无关知识神经元。我们还进一步探讨了语言无关知识神经元在跨语言知识编辑、知识增强和新知识注入中的作用。
引用
@article{arxiv.2411.17401,
title = {One Mind, Many Tongues: A Deep Dive into Language-Agnostic Knowledge Neurons in Large Language Models},
author = {Pengfei Cao and Yuheng Chen and Zhuoran Jin and Yubo Chen and Kang Liu and Jun Zhao},
journal= {arXiv preprint arXiv:2411.17401},
year = {2024}
}