ActiShade：激活被遮蔽知识以引导大语言模型的多跳推理
计算与语言
2026-01-13 v1
摘要
在多跳推理中，多轮检索增强生成 (RAG) 方法通常依赖于LLM生成的内容作为检索查询。然而，这些方法本质上易受知识被遮蔽 (knowledge overshadowing) 的威胁——即关键信息在生成过程中被遮蔽。结果是，LLM生成的内容可能不完整或不准确，导致检索不相关，并在迭代过程中引发误差累积。为解决此挑战，我们提出了 ActiShade，通过检测和激活被遮蔽的知识来引导大语言模型进行多跳推理。具体而言，ActiShade 不断检测给定查询中被遮蔽的关键短语，检索与查询及被遮蔽关键短语相关的文档，并基于检索到的文档生成新的查询以引导下一轮迭代。通过在制定下一轮查询时补充被遮蔽的知识，同时尽量减少无关噪声的引入，ActiShade 减少了由知识被遮蔽导致的误差累积。大量实验表明，ActiShade 在多个数据集和大语言模型上均优于现有方法。
引用
@article{arxiv.2601.07260,
title = {ActiShade: Activating Overshadowed Knowledge to Guide Multi-Hop Reasoning in Large Language Models},
author = {Huipeng Ma and Luan Zhang and Dandan Song and Linmei Hu and Yuhang Tian and Jun Yang and Changzhi Zhou and Chenhao Li and Yizhou Jin and Xudong Li and Meng Lin and Mingxing Zhang and Shuhao Zhang},
journal= {arXiv preprint arXiv:2601.07260},
year = {2026}
}
备注
Accepted to AAAI 2026