大语言模型上下文学习中的主动学习原理
计算与语言
2023-11-23 v2 人工智能
摘要
大语言模型（LLMs）的显著进展显著提升了少样本学习场景下的性能。仅使用少量标注样本（称为示范例），LLMs 便可通过上下文学习有效掌握当前任务。然而，先前工作对恰当示范例的选择过程关注有限。本文通过将识别最具信息量示范例的问题视为单轮基于池的主动学习（AL）问题，来解决少样本学习中的这一议题。我们的目标在于探究 AL 算法如何作为上下文学习的有效示范选择方法。我们比较了基于不确定性、多样性与相似性的多种标准 AL 算法，并一致观察到后者优于包括随机采样在内的所有其他方法。值得注意的是，不确定性采样尽管在传统监督学习场景中成功，在此上下文中表现不佳。我们涉及多种 GPT 与 OPT 模型在 个分类与多选任务上的广泛实验，辅以深入分析，明确表明通过 AL 进行的上下文示例选择优先选取具有低不确定性且与测试样例相似的优质示例。
引用
@article{arxiv.2305.14264,
title = {Active Learning Principles for In-Context Learning with Large Language Models},
author = {Katerina Margatina and Timo Schick and Nikolaos Aletras and Jane Dwivedi-Yu},
journal= {arXiv preprint arXiv:2305.14264},
year = {2023}
}
备注
To appear at Findings of EMNLP (Camera Ready version)