认知幻象：大语言模型幻觉现象综述
计算与语言
2023-09-14 v1 人工智能
机器学习
摘要
随着大语言模型在人工智能领域的持续发展，文本生成系统易受一种令人担忧的现象——幻觉——的影响。本研究总结了近期关于LLM幻觉现象的引人注目的见解。我们提出了一种来自各类文本生成任务的幻觉新分类体系，并据此提供理论见解、检测方法与改进途径。在此基础上，提出了未来研究方向。我们的贡献有三方面：（1）为文本生成任务中出现的幻觉提供详尽且完整的分类体系；（2）对LLM中的幻觉进行理论分析，并提供现有的检测与改进方法；（3）提出若干未来可开展的研究方向。鉴于幻觉问题受到学界广泛关注，我们将持续更新相关研究进展。
引用
@article{arxiv.2309.06794,
title = {Cognitive Mirage: A Review of Hallucinations in Large Language Models},
author = {Hongbin Ye and Tong Liu and Aijia Zhang and Wei Hua and Weiqiang Jia},
journal= {arXiv preprint arXiv:2309.06794},
year = {2023}
}
备注
work in progress; 21 pages