核对事实再试一次：利用外部知识与自动反馈改进大语言模型
计算与语言
2023-03-10 v3 人工智能
摘要
大语言模型（LLMs），如 ChatGPT，能够为许多下游任务（例如任务型对话与问答）生成类人且流畅的回复。然而，将 LLMs 应用于现实世界的关键任务应用仍具挑战性，主要由于其易产生幻觉且无法利用外部知识。本文提出 LLM-Augmenter 系统，该系统以一组即插即用模块增强黑盒 LLM。我们的系统使 LLM 生成基于外部知识（例如存储于任务特定数据库中）的回复。它还利用效用函数（例如 LLM 生成回复的事实性分数）产生的反馈迭代修订 LLM 提示以改善模型回复。LLM-Augmenter 的有效性在两类场景——任务型对话与开放域问答上得到经验验证。LLM-Augmenter 显著减少了 ChatGPT 的幻觉且不牺牲其回复的流畅性与信息量。我们公开了源代码与模型。
引用
@article{arxiv.2302.12813,
title = {Check Your Facts and Try Again: Improving Large Language Models with External Knowledge and Automated Feedback},
author = {Baolin Peng and Michel Galley and Pengcheng He and Hao Cheng and Yujia Xie and Yu Hu and Qiuyuan Huang and Lars Liden and Zhou Yu and Weizhu Chen and Jianfeng Gao},
journal= {arXiv preprint arXiv:2302.12813},
year = {2023}
}
备注
15 pages