验证链降低大语言模型中的幻觉
计算与语言
2023-09-26 v2 人工智能
摘要
生成看似合理却事实错误的资讯，被称为幻觉，是大语言模型中一个未解决的问题。我们研究语言模型对其所给回复进行审慎思考以纠正错误的能力。我们开发了验证链（CoVe）方法，模型首先（i）起草初始回复；然后（ii）规划用于事实核查其草稿的验证问题；（iii）独立回答这些问题，使答案不受其他回复偏置；以及（iv）生成其最终经验证的回复。在实验中，我们表明 CoVe 在各类任务中减少了幻觉，这些任务包括来自 Wikidata 的基于列表的问题、闭卷 MultiSpanQA 以及长文本生成。
引用
@article{arxiv.2309.11495,
title = {Chain-of-Verification Reduces Hallucination in Large Language Models},
author = {Shehzaad Dhuliawala and Mojtaba Komeili and Jing Xu and Roberta Raileanu and Xian Li and Asli Celikyilmaz and Jason Weston},
journal= {arXiv preprint arXiv:2309.11495},
year = {2023}
}