跨语言问答：解锁上下文学习跨语言性能的关键
计算与语言
2024-07-17 v3 人工智能
摘要
多语言大语言模型（MLLMs）已通过上下文学习展现出显著的跨语言能力。现有方法通常构建单语上下文示例，使用源语言或目标语言。然而，将整个上下文示例翻译为目标语言可能会损害上下文完整性，并且在长上下文段落的情况下成本高昂。为此，我们提出跨语言问答（Cross-lingual QA），一种仅翻译问题与答案部分的跨语言提示方法，从而降低了翻译成本。在四个类型学上多样的多语言基准上的实验表明，跨语言问答提示能有效激发模型调用其跨语言知识，优于先前的单语提示方法。此外，我们表明，使用跨语言上下文示例提示开源 MLLMs 可随模型规模增大而提升性能。
引用
@article{arxiv.2305.15233,
title = {Cross-lingual QA: A Key to Unlocking In-context Cross-lingual Performance},
author = {Sunkyoung Kim and Dayeon Ki and Yireun Kim and Jinsik Lee},
journal= {arXiv preprint arXiv:2305.15233},
year = {2024}
}
备注
Accepted to ICML 2024 Workshop on In-Context Learning