多语言性作为语义适应
计算与语言
2026-01-16 v1
摘要
我们将多语言性视为语义适应：通过跨语言对潜在语义表征进行对齐，而非仅依赖共享参数和规模。本文引入基于语义的对称内在语言对齐（SENSIA），通过在平行数据上显式对齐语义层面的混合物和上下文表征，同时联合训练目标语言语言模型损失以保持流畅性，从而将背包语言模型从一种语言适应至另一种语言。在四个类型多样化语言的基准测试中，SENSIA通常优于可比较的多语言对齐方法，同时使用2-4倍较少的目标语言数据，达到与从头开始的单语言基线相当的准确率。学习到的语义几何分析表明，局部语义拓扑和相对于英语的全局结构大致保持。消融实验显示，该方法在设计和规模方面具有鲁棒性。
引用
@article{arxiv.2601.10310,
title = {Multilinguality as Sense Adaptation},
author = {Jan Christian Blaise Cruz and David Ifeoluwa Adelani and Alham Fikri Aji},
journal= {arXiv preprint arXiv:2601.10310},
year = {2026}
}
备注
Code available at https://github.com/jcblaisecruz02/sensia