PromptRefine：通过相关示例库中的示例选择增强低资源印度语言的小样本性能
计算与语言
2025-06-03 v2 人工智能
信息检索
摘要
大型语言模型（LLM）最近通过上下文学习（ICL）展示了令人印象深刻的小样本学习能力。然而，ICL 性能高度依赖于少样本示例的选择，使得选择最优示例成为一个持续的研究挑战。这一问题在低资源印度语言中进一步放大，因为真实数据的稀缺使选择过程复杂化。在本工作中，我们提出了 PromptRefine，一种用于示例选择的新型交替最小化方法，以改善低资源印度语言上的 ICL 性能。PromptRefine 利用来自相关高资源印度语言的辅助示例库，并采用多任务学习技术对齐语言特定的检索器，从而实现有效的跨语言检索。此外，我们通过增加所选示例的多样性来增强泛化能力并减少偏差。通过在四种文本生成任务——跨语言问答、多语言问答、机器翻译和跨语言摘要——上使用最先进的 LLM（如 LLAMA-3.1-8B、LLAMA-2-7B、Qwen-2-7B 和 Qwen-2.5-7B）进行全面评估，我们证明 PromptRefine 显著优于现有的示例检索框架。
引用
@article{arxiv.2412.05710,
title = {PromptRefine: Enhancing Few-Shot Performance on Low-Resource Indic Languages with Example Selection from Related Example Banks},
author = {Soumya Suvra Ghosal and Soumyabrata Pal and Koyel Mukherjee and Dinesh Manocha},
journal= {arXiv preprint arXiv:2412.05710},
year = {2025}
}
备注
Accepted at NAACL 2025