SAIL：搜索增强的指令学习
计算与语言
2023-06-27 v2
摘要
大语言模型（LLMs）已通过指令微调得到显著改进，但仍缺乏透明性以及利用最新知识和信息的能力。本文提出搜索增强的指令学习（SAIL），其将语言生成与指令遵循能力建立在由内部和外部搜索引擎生成的复杂搜索结果之上。利用一个指令微调语料库，我们从不同搜索 API 和领域为每个训练样例收集搜索结果，并构建一个包含（指令, 依据信息, 回复）三元组的新搜索依据训练集。随后我们在所构建的训练集上微调 LLaMA-7B 模型。由于收集的结果包含不相关和有争议的内容，模型需要学习依据可信的搜索结果、过滤掉干扰段落并生成目标回复。搜索结果去噪过程需要显式的可信信息选择和多跳推理，因为检索到的段落可能信息丰富但不包含指令遵循的答案。实验表明，微调后的 SAIL-7B 模型具有强大的指令遵循能力，并且在透明性敏感任务（包括开放式问答和事实验证）上表现显著更好。
引用
@article{arxiv.2305.15225,
title = {SAIL: Search-Augmented Instruction Learning},
author = {Hongyin Luo and Yung-Sung Chuang and Yuan Gong and Tianhua Zhang and Yoon Kim and Xixin Wu and Danny Fox and Helen Meng and James Glass},
journal= {arXiv preprint arXiv:2305.15225},
year = {2023}
}