中文

ReCoVeR目标语言:在不牺牲任务性能的前提下实现语言引导

计算与语言 2025-09-19 v1

摘要

随着大语言模型(LLMs)变得越来越多语言,它们表现出更多的语言混淆,即倾向于生成与提示语言或用户明确要求的回答语言不同的语言。在这项工作中,我们提出了ReCoVeR(REducing language COnfusion in VEctor Representations),一种基于语言特定引导向量的减少语言混淆的新型轻量级方法。我们首先借助多平行语料库分离语言向量,然后有效地利用这些向量通过固定的(即无监督的)以及可训练的引导函数实现有效的LLM引导。我们广泛的评估涵盖了三个基准和18种语言,结果表明ReCoVeR在单语和跨语言设置中都能有效缓解语言混淆,同时——与先前的语言引导方法不同——保留了任务性能。我们的数据代码可在https://github.com/hSterz/recover获取。

关键词

引用

@article{arxiv.2509.14814,
  title  = {ReCoVeR the Target Language: Language Steering without Sacrificing Task Performance},
  author = {Hannah Sterz and Fabian David Schmidt and Goran Glavaš and Ivan Vulić},
  journal= {arXiv preprint arXiv:2509.14814},
  year   = {2025}
}