FastGAS：面向上下文学习的快速基于图的标注选择
机器学习
2024-06-07 v1 人工智能
摘要
上下文学习(ICL)通过使用一系列训练实例作为提示，使大型语言模型(LLM)能够处理新任务。由于生成提示需要从大量实例中采样并进行标注（例如，在分类任务中添加标签），现有方法提出选择一部分未标注示例进行标注，从而提高提示质量并同时降低标注成本。然而，这些方法由于复杂性，通常需要较长时间来选择实例，阻碍了其实际可行性。为解决这一限制，我们提出了一种基于图的选择方法FastGAS，旨在高效识别高质量实例，同时最小化计算开销。首先，我们基于实例相似性构建数据相似度图。随后，采用图划分算法将图划分为多个片段。在每个片段（即子图）中，我们采用贪心方法选取最具代表性的节点。通过聚合来自不同片段的节点并标注相应实例，我们为ICL识别出一组多样且具有代表性的实例。与先前方法相比，我们的方法不仅在各项任务上表现出更优的性能，而且显著减少了选择时间。此外，我们还在更大规模的LLM上展示了我们方法的有效性。
引用
@article{arxiv.2406.03730,
title = {FastGAS: Fast Graph-based Annotation Selection for In-Context Learning},
author = {Zihan Chen and Song Wang and Cong Shen and Jundong Li},
journal= {arXiv preprint arXiv:2406.03730},
year = {2024}
}