神经翻译中的通用概念结构：探究NLLB-200的多语言几何

神经机器翻译模型是否学习了语言普遍的概念表征，抑或仅仅是通过表面相似性对语言进行聚类？我们通过六项实验来探讨这个问题，将NLP可解释性与认知科学中多语言词汇组织理论相结合，对Meta的NLLB-200（包含200种语言的编码器-解码器Transformer）的表示几何进行探针分析。使用横跨135种语言的斯瓦西核心词汇表，我们发现模型的嵌入距离显著地与来自自动相似性判断程序（ASJP）的系谱距离相关联（$\rho = 0.13$，$p = 0.020$），表明NLLB-200已隐式学习了人类语言的系谱结构。我们展示，来自CLICS数据库的频繁共词化概念对之间的嵌入相似度显著高于非共词化配对（$U = 42656$，$p = 1.33 \times 10^{-11}$，$d = 0.96$），表明该模型已内化了通用概念关联。对嵌入进行按语言的均值去中心化处理，可使概念间距离与概念内距离之比提升约1.19倍，提供了类似于双语神经影像学中识别出的前额叶枕联区枢纽的语言中性概念存储的几何证据。基本概念配对（如男性到女性、大到小）之间的语义偏移向量在跨语言上的一致性很高（平均余弦 = 0.84），表明第二阶关系结构在类型多样的语言之间得以保持。我们发布了InterpretCognates——一个用于探索这些现象的开源交互式工具包，并附上完全可复现的分析管道。