中文

Lens:重新思考大语言模型的多语言增强

计算与语言 2025-05-27 v2

摘要

随着全球对多语言大语言模型(LLM)需求的增长,目前大多数大语言模型仍过度关注英语,导致非英语使用者无法获得先进的人工智能。当前的多语言能力提升方法主要依赖于数据驱动的后训练技术,如多语言指令调优或持续预训练。然而,这些方法存在显著局限,包括高资源消耗、加剧偏离目标问题以及灾难性遗忘中心语言能力。为此,我们提出Lens,这是一种新颖的方法,通过利用大语言模型内部的语言表示空间来增强多语言能力。Lens operates on two subspaces: the language-agnostic subspace, where it aligns target languages with the central language to inherit strong semantic representations, and the language-specific subspace, where it separates target and central languages to preserve linguistic specificity. 实验表明,在三个以英语为中心的大语言模型上,Lens显著提升了多语言性能,同时保持了模型的英语熟练程度,相较于现有后训练方法,实现更好的效果且计算成本更低。

关键词

引用

@article{arxiv.2410.04407,
  title  = {Lens: Rethinking Multilingual Enhancement for Large Language Models},
  author = {Weixiang Zhao and Yulin Hu and Jiahe Guo and Xingyu Sui and Tongtong Wu and Yang Deng and Yanyan Zhao and Bing Qin and Wanxiang Che and Ting Liu},
  journal= {arXiv preprint arXiv:2410.04407},
  year   = {2025}
}

备注

23 pages, 7 figures, 7 tables