大型语言模型是自身的演示预选器
计算与语言
2025-06-09 v1
摘要
使用大型语言模型（LLMs）的情境学习（ICL）通过从整个训练数据中选择少量示例来实现强大的few-shot性能。然而，现有ICL方法依赖于相似性或多样性评分来选择演示，由于针对每个查询从大规模数据集中重复检索，导致高计算成本。为此，我们提出了FEEDER（FEw yet Essential Demonstration prE-selectoR），一种新的预选择框架，用于识别包含最具代表性示例的训练数据子集，这些示例针对特定LLMs而定制。为构建此子集，我们引入了预选择阶段的“充分性”和“必要性”指标，并设计一种基于树的算法来高效识别代表性示例。一旦预先选择，这一代表性子集可以有效地取代完整的训练数据，在保持相当性能的同时提高效率。此外，我们的预先选择子集也受益于微调LLMs，其中我们引入一种双层优化方法，可在不牺牲性能的情况下提高训练效率。使用参数从300M到8B的LLMs进行实验表明，FEEDER可在保持性能的同时将训练数据规模缩小超过20%，并无缝集成到ICL中各种后续演示选择策略。
引用
@article{arxiv.2506.06033,
title = {Large Language Models are Demonstration Pre-Selectors for Themselves},
author = {Jiarui Jin and Yuwei Wu and Haoxuan Li and Xiaoting He and Weinan Zhang and Yiming Yang and Yong Yu and Jun Wang and Mengyue Yang},
journal= {arXiv preprint arXiv:2506.06033},
year = {2025}
}
备注
ICML 2025