RaCoT：增强LLM推理可靠性的对比例生成机制
人工智能
2025-10-28 v1
摘要
检索增强生成（RAG）面临一个核心瓶颈：对于知识稀疏和语义模糊的长尾查询，检索噪声会扰乱推理过程并导致高昂的后处理成本。为此，我们提出了RaCoT（Retrieval-aware Contrastive-of-Thought），一个新型框架，将对比思考转移到检索前阶段。通过自动生成一个语义相邻但回答不同的对比问题，并提取-Prompt来捕捉它们的关键差异，RaCoT引导模型主动关注“决定答案分歧的关键细节”。这种方法使其能够在单次检索过程中抑制语义干扰，克服了单向量查询难以同时编码注意力和忽略信号的理论瓶颈。在六个权威基准测试（包括PopQA和TriviaQA-unfiltered）上，RaCoT相较于强大的基线方法（如RankRAG和Self-RAG）提升了0.9-2.4个百分点。其在对抗性测试中的鲁棒性表现突出，性能下降仅为8.6%，远超其他方法超过15%的性能下降。此外，其低延迟（3.12秒）和 token 开销（11.54）使其位于准确率与效率的帕累托前沿，而消融研究验证了每个组件的必要性。最终，RaCoT重新定义了RAG范式，从“事后上下文清洗”转向“事前塑造判别性推理”，为面向实时、资源受限部署的可靠AI系统提供了高效且稳健的路径。
引用
@article{arxiv.2510.22710,
title = {RaCoT: Plug-and-Play Contrastive Example Generation Mechanism for Enhanced LLM Reasoning Reliability},
author = {Kaitong Cai and Jusheng Zhang and Yijia Fan and Jing Yang and Keze Wang},
journal= {arXiv preprint arXiv:2510.22710},
year = {2025}
}