不要轻信所读内容：通过自动识别大语言模型中的幻觉增强摘要可解释性
计算与语言
2024-04-04 v2 人工智能
摘要
大语言模型（LLMs）擅长文本处理任务，如机器翻译和文本摘要。然而，这些模型也容易产生幻觉，这可能损害模型所提供答案的忠实度。近期关于对抗 LLM 幻觉的研究致力于识别幻觉句子并对模型产生幻觉的不同方式进行分类。本文深入探讨了 LLM 在幻觉方面的行为，定义了一种用于识别不同类型幻觉的 token 级方法，并进一步利用这种 token 级标记来提高 LLM 在对话摘要任务中的可解释性和忠实度。通过这项工作，本文提出了一个新的增强数据集和一种新的训练范式。
引用
@article{arxiv.2312.14346,
title = {Don't Believe Everything You Read: Enhancing Summarization Interpretability through Automatic Identification of Hallucinations in Large Language Models},
author = {Priyesh Vakharia and Devavrat Joshi and Meenal Chavan and Dhananjay Sonawane and Bhrigu Garg and Parsa Mazaheri},
journal= {arXiv preprint arXiv:2312.14346},
year = {2024}
}
备注
All authors contributed equally to this work