Prompt Balance Matters: 了解少样本学习中不平衡性如何影响大语言模型中的多语言词义消歧
计算与语言
2025-10-07 v1
摘要
近期大型语言模型（LLM）的进展显著重塑了自然语言处理（NLP）领域的格局。在各种提示技术中，少样本提示因其实用性和有效性而受到广泛关注。本研究探究了少样本提示策略如何影响词义消歧（WSD）任务，尤其关注不平衡样本分布所引入的偏差。我们采用GLOSSGPT提示方法，这是一种针对英文WSD的先进方法，测试其在五种语言（英语、德语、西班牙语、法语、意大利语）中的有效性。我们的结果表明，不平衡的少样本示例会导致多语言环境中出现错误的语义预测，但在英语中未出现这一问题。为评估模型行为，我们同时评估了GPT-4o和LLaMA-3.1-70B模型，结果凸显了多语言WSD对少样本设置中样本分布的敏感性，强调了需要平衡且具代表性的提示策略。
引用
@article{arxiv.2510.03762,
title = {Prompt Balance Matters: Understanding How Imbalanced Few-Shot Learning Affects Multilingual Sense Disambiguation in LLMs},
author = {Deshan Sumanathilaka and Nicholas Micallef and Julian Hough},
journal= {arXiv preprint arXiv:2510.03762},
year = {2025}
}
备注
Paper accepted at GlobalNLP 2025: Workshop on beyond English: Natural Language Processing for All Languages in an Era of Large Language Models" 9 pages, 3 figures, 2 Tables