大型语言模型中主动直推推理的实验设计
机器学习
2024-06-03 v2 计算与语言
摘要
大型语言模型（LLMs）的一个新兴能力是，在推理时可以将特定于查询的示例包含在提示中。在这项工作中，我们使用主动学习进行自适应提示设计，并将其称为主动式上下文提示设计（AIPD）。我们通过从训练集中自适应地选择少样本示例来设计LLM提示，以优化测试集上的性能。训练示例最初是无标签的，我们获取信息量最大的示例的标签，这些示例能最大程度地减少LLM预测中的不确定性。我们提出了两种算法，GO和SAL，它们在如何选择少样本示例上有所不同。我们在线性模型中分析了这些算法：首先分析GO，然后利用其与SAL的等价性。我们在小型、中型和大型语言模型上对许多不同任务进行了实验，并表明在推理时为LLM提示选择少样本示例方面，GO和SAL优于其他方法。
引用
@article{arxiv.2404.08846,
title = {Experimental Design for Active Transductive Inference in Large Language Models},
author = {Subhojyoti Mukherjee and Anusha Lalitha and Aniket Deshmukh and Ge Liu and Yifei Ma and Branislav Kveton},
journal= {arXiv preprint arXiv:2404.08846},
year = {2024}
}