GrIPS：面向大语言模型提示的免梯度、基于编辑的指令搜索
计算与语言
2023-04-28 v2 人工智能
机器学习
摘要
在提示中提供自然语言指令是一种有用新范式，可在零样本设定下提升大语言模型的任务表现。近期工作旨在通过人工重写或基于梯度的调优来改进此类提示。然而，人工重写耗时且需主观解读，而基于梯度的调优对大型模型计算需求极高，且对基于 API 的模型可能不可行。本工作中，我们提出免梯度指令提示搜索（GrIPS），一种免梯度、基于编辑的搜索方法，用于改进大语言模型的任务指令。GrIPS 接收为人类设计的指令并自动返回改进、编辑后的提示，同时支持基于 API 的调优。在 InstructGPT 模型上，GrIPS 在 Natural Instructions 数据集的八个分类任务上将平均任务表现提升多达 4.30 个百分点（OPT、BLOOM 与 FLAN-T5 有类似提升）。我们观察到对仅指令提示与指令+k 样本示例提示均有提升。值得注意的是，GrIPS 在控制可用计算与数据预算下优于人工重写与纯示例提示。此外，GrIPS 表现可与若干基于梯度的调优方法相媲美。定性地，我们展示编辑可简化指令，有时使其不连贯却仍提升准确率。我们的代码见：https://github.com/archiki/GrIPS
引用
@article{arxiv.2203.07281,
title = {GrIPS: Gradient-free, Edit-based Instruction Search for Prompting Large Language Models},
author = {Archiki Prasad and Peter Hase and Xiang Zhou and Mohit Bansal},
journal= {arXiv preprint arXiv:2203.07281},
year = {2023}
}
备注
EACL 2023 (20 pages)