大语言模型中并非所有语言生而平等：通过跨语言思维提示提升多语言能力
计算与语言
2023-10-24 v2
摘要
大语言模型（LLMs）展现出令人印象深刻的多语言能力，但其性能在不同语言间差异显著。在本工作中，我们引入一种简单而有效的方法，称为跨语言思维提示（XLT），以系统性地提升 LLM 的多语言能力。具体而言，XLT 是一种通用模板提示，可激发跨语言与逻辑推理技能，从而增强跨语言的任务表现。我们在与推理、理解和生成任务相关的 7 个典型基准上进行了全面评估，涵盖了高资源与低资源语言。实验结果表明，XLT 不仅显著提升了各类多语言任务的性能，还大幅缩小了各任务在不同语言下平均性能与最佳性能之间的差距。值得注意的是，XLT 在算术推理和开放域问答任务上带来了超过 10 分的平均提升。
引用
@article{arxiv.2305.07004,
title = {Not All Languages Are Created Equal in LLMs: Improving Multilingual Capability by Cross-Lingual-Thought Prompting},
author = {Haoyang Huang and Tianyi Tang and Dongdong Zhang and Wayne Xin Zhao and Ting Song and Yan Xia and Furu Wei},
journal= {arXiv preprint arXiv:2305.07004},
year = {2023}
}
备注
Accepted by EMNLP 2023 Findings