大语言模型是优秀的多语言学习者:当LLM遇到跨语言提示
计算与语言
2025-04-21 v2
摘要
随着大语言模型(LLM)的出现,为实际应用生成基于规则的数据变得更加容易。由于自然语言固有的歧义性和规则集的复杂性,尤其是在长上下文中,LLM通常难以遵循所有指定的规则,经常遗漏至少一条。为了增强LLM在长且复杂上下文上的推理和理解能力,我们提出了一种新颖的提示策略——多语言提示(MLPrompt),该策略自动将LLM难以遵循的易错规则翻译成另一种语言,从而引起对其更大的关注。在跨多种任务的公共数据集上的实验结果表明,MLPrompt可以优于最先进的提示方法,如思维链、思维树和自一致性。此外,我们引入了一个将MLPrompt与结构化数据生成的自动检查机制相结合的框架,并特别以文本到MIP实例为例进行了案例研究。进一步,我们将所提框架扩展到文本到SQL,以展示其在结构化数据合成方面的生成能力。
引用
@article{arxiv.2409.11056,
title = {Large Language Models are Good Multi-lingual Learners : When LLMs Meet Cross-lingual Prompts},
author = {Teng Wang and Zhenqi He and Wing-Yin Yu and Xiaojin Fu and Xiongwei Han},
journal= {arXiv preprint arXiv:2409.11056},
year = {2025}
}