基于关联分析的大语言模型幻觉量化与归因
人工智能
2023-09-12 v1 计算与语言
摘要
尽管在各类 NLP 任务上展现出卓越性能，大语言模型（LLMs）仍受幻觉问题困扰，这威胁了 LLMs 的可靠性。为衡量 LLMs 的幻觉水平，以往工作首先依据现象相似性对幻觉分类，随后量化含幻觉内容的模型输出比例。然而，此类幻觉率易因混杂因素而失真。此外，此类幻觉率无法反映幻觉成因，因为相似的幻觉现象可能源自不同来源。为解决这些问题，我们提出通过关联分析将幻觉水平量化与幻觉原因探究相结合，该分析建立了 LLMs 的幻觉率与一组风险因素之间的关系。借此，我们能够在每个风险因素各取值下观测幻觉水平，考察各风险因素的贡献与统计显著性，同时排除其他因素的混杂效应。此外，通过依据模型能力的分类体系识别风险因素，我们揭示了一组在常识记忆、关系推理和指令遵循方面的潜在缺陷，这可进一步为 LLMs 的预训练和监督微调过程提供缓解幻觉的指导。
引用
@article{arxiv.2309.05217,
title = {Quantifying and Attributing the Hallucination of Large Language Models via Association Analysis},
author = {Li Du and Yequan Wang and Xingrun Xing and Yiqun Ya and Xiang Li and Xin Jiang and Xuezhi Fang},
journal= {arXiv preprint arXiv:2309.05217},
year = {2023}
}