CALM：释放语言模型问答中跨语言自对齐能力
计算与语言
2025-02-11 v2
摘要
大型语言模型 (LLM) 在广泛的多语言语料库上进行预训练，以获取语言特定的文化知识和通用知识。理想情况下，LLM 应在语言无关问题上提供一致的响应，但我们观察到跨语言的性能差异显著。为此，我们探索了语言模型跨语言自对齐能力 (CALM)。具体而言，对于给定问题，我们在不同语言中采样多个响应，并选择最具自我一致性的响应作为目标，其余响应作为负例。随后，我们采用直接偏好优化 (DPO) 对模型的知识进行跨语言对齐。在 MEDQA 和 X-CSQA 数据集上的评估表明，CALM 在零样本和检索增强设置下均有效提升了跨语言知识问答性能。我们还发现，CALM 训练中涉及的语言数量增加会导致准确率和一致性提升。我们提供了跨语言一致性如何增强知识对齐的定性分析，并探讨了该方法的可扩展性。
引用
@article{arxiv.2501.18457,
title = {CALM: Unleashing the Cross-Lingual Self-Aligning Ability of Language Model Question Answering},
author = {Yumeng Wang and Zhiyuan Fan and Qingyun Wang and May Fung and Heng Ji},
journal= {arXiv preprint arXiv:2501.18457},
year = {2025}
}
备注
Accepted by NAACL 2025