中文

MERLIN: 多语言编码器-LLM集成的多阶段课程对齐用于跨语言推理

计算与语言 2026-03-09 v4

摘要

大语言模型在英语方面表现出色,但在许多低资源语言(LRLs)的复杂推理上仍然存在困难。现有的编码器加解码器方法如LangBridge和MindMerger提高了中高资源语言的准确率,但它们在LRLs上仍存在较大差距。我们提出MERLIN,一个两阶段模型堆叠框架,应用课程学习策略——从通用双语平行文本到任务特定数据——并仅适配少量DoRA权重。在AfriMGSM基准测试上,MERLIN相比MindMerger将精确匹配准确率提高了+12.9 pp,并优于GPT-4o-mini。它还在MGSM和MSVAMP上取得了一致提升(+0.9和+2.8 pp),证明了其在低资源和高资源设置中的有效性。

关键词

引用

@article{arxiv.2509.08105,
  title  = {MERLIN: Multi-Stage Curriculum Alignment for Multilingual Encoder-LLM Integration in Cross-Lingual Reasoning},
  author = {Kosei Uemura and David Guzmán and Quang Phuoc Nguyen and Jesujoba Oluwadara Alabi and En-shiun Annie Lee and David Ifeoluwa Adelani},
  journal= {arXiv preprint arXiv:2509.08105},
  year   = {2026}
}

备注

Accepted to EACL 2026 (main conference)