InstructZero：面向黑盒大语言模型的高效指令优化
人工智能
2023-08-09 v2
摘要
大语言模型（LLMs）是指令遵循者，但针对不同情境寻找最优指令可能颇具挑战，尤其对于禁止反向传播的黑盒 LLM。我们不直接优化离散指令，而是优化应用于开源 LLM 的低维软提示（soft prompt），以生成面向黑盒 LLM 的指令。在我们称为 InstructZero 的所提方法的每次迭代中，软提示经开源 LLM 转换为指令，随后提交黑盒 LLM 进行零样本评估，其性能送入贝叶斯优化以产生提升零样本性能的新软提示。我们在 Vicuna 与 ChatGPT 等不同开源 LLM 与 API 组合上评估 InstructZero。结果表明，InstructZero 在多种下游任务上优于 SOTA 自动指令方法。我们的代码与数据公开于 https://github.com/Lichang-Chen/InstructZero。
引用
@article{arxiv.2306.03082,
title = {InstructZero: Efficient Instruction Optimization for Black-Box Large Language Models},
author = {Lichang Chen and Jiuhai Chen and Tom Goldstein and Heng Huang and Tianyi Zhou},
journal= {arXiv preprint arXiv:2306.03082},
year = {2023}
}
备注
15 pages; 9 figures; Our code is available at https://lichang-chen.github.io/InstructZero/