提升大语言模型可靠性：结合链条推理、检索增强生成、自一致性与自验证
人工智能
2025-05-15 v1 计算与语言
摘要
幻觉现象——即大型语言模型（LLM）生成自信但错误或无关信息——仍是其应用于复杂、开放性任务时的关键局限性。链条推理（Chain-of-Thought, CoT） prompting 作为通过引导模型经过中间步骤来提高多步推理能力的有前景的方法，已逐渐成为主流。然而，CoT 本身并未完全解决幻觉问题。本文我们探究将 CoT 与检索增强生成（RAG）结合，以及应用自一致性和自验证策略，如何减少幻觉现象并提高事实准确性的效果。通过在推理过程中融合外部知识源，并使模型能够验证或修订自身输出，我们旨在生成更准确且连贯的响应。我们呈现了对基线 LLM 与 CoT、CoT+RAG、自一致性和自验证技术的比较评估。结果显示，各方法的有效性，并指出了最有效的最小化幻觉同时保持流畅性和推理深度的方法。
引用
@article{arxiv.2505.09031,
title = {Improving the Reliability of LLMs: Combining CoT, RAG, Self-Consistency, and Self-Verification},
author = {Adarsh Kumar and Hwiyoon Kim and Jawahar Sai Nathani and Neil Roy},
journal= {arXiv preprint arXiv:2505.09031},
year = {2025}
}