跨语言真实性迁移：仅需精选语言即可
计算与语言
2025-03-04 v3
摘要
真实性作为大型语言模型（LLM）面临的关键挑战。尽管已有许多工作开发了各种方法来增强真实性，但这些方法很少关注多语言情境下的真实性。同时，当前的多语言对齐技术在平衡众多语言方面困难，尤其是那些与英语差异巨大的语言，往往在真实性方面存在显著的差距。在本工作中，我们将真实性评估扩展到多语言情境，并提出一种实用的方法用于跨语言真实性迁移，称为Fact-aware Multilingual Selective Synergy（FaMSS）。FaMSS能够通过语言偏差和贡献选择出所有测试语言中最优的子集，然后通过翻译指令微调实现跨语言真实性迁移。实验结果表明，我们的方法能够有效减少多语言表示差异，提升LLM的跨语言真实性迁移能力。
引用
@article{arxiv.2406.14434,
title = {Selected Languages are All You Need for Cross-lingual Truthfulness Transfer},
author = {Weihao Liu and Ning Wu and Wenbiao Ding and Shining Liang and Ming Gong and Dongmei Zhang},
journal= {arXiv preprint arXiv:2406.14434},
year = {2025}
}
备注
16 pages, COLING2025