使用同伪上下文离群点检测降低 LLM 在科学文献分析中的幻觉现象
人工智能
2026-04-03 v1
摘要
降低大语言模型（LLM）中的幻觉现象对于提高从大型文本语料库中提取数据的准确性至关重要。当前方法，如提示工程和链式思考提示，侧重于单个文档，却未能考虑语料库中文档之间的关系。本文引入同伪上下文离群点检测（Peer Context Outlier Detection, P-COD）——一种新颖方法，通过利用文档之间的关系来提高提取准确性。我们的应用领域是科学文献总结，当实验设置相似的论文应得相似的结论。通过将提取的数据与语料库中经验证的同伴信息进行比较，我们调整置信度得分并标记低置信度结果以供专家审查。获得高置信度的结果由同伴验证支持，被视为可靠。我们的实验显示，在六个科学领域中，离群点检测的精度可达 98%，表明该方法减少了幻觉现象，增强了自动化系统的可信度，使研究人员能够专注于模糊情况，从而简化了数据提取工作流程。
引用
@article{arxiv.2604.01461,
title = {Reducing Hallucinations in LLM-based Scientific Literature Analysis Using Peer Context Outlier Detection},
author = {Daniel Xie and Maxwell J. Jacobson and Adil Wazeer and Haiyan Wang and Xinghang Zhang and Yexiang Xue},
journal= {arXiv preprint arXiv:2604.01461},
year = {2026}
}