通过显式推理链实现鲁棒知识编辑以应对干扰的多跳问答
计算与语言
2025-09-03 v1
摘要
大语言模型（LLMs）编码了海量的世界知识，但一旦训练完成便保持静态，这使得通过完全重新训练来及时整合新事实的成本高得令人望而却步。因此，知识编辑技术应运而生，用于向 LLMs 注入或覆盖特定事实，然而它们要么过度依赖表面线索，要么涉及复杂的迭代流程，这些流程在嘈杂的多跳条件下会崩溃。我们引入了 Reason-KE，这是一个端到端的基于推理链的编辑框架，它引导预训练的 LLM 通过四个结构化阶段——事实确认、相关性判定、选择性应用和最终推理——在单次传递中过滤干扰项。在包含多达四个无关事实的 MQuAKE-CF 数据集上训练后，Reason-KE 将 Qwen2.5-7B 的多跳问答准确率提升至 90.2%，同时在强干扰下仅遭受 6.3% 的性能下降，在答案泄露时下降不到 1%。我们的定量分析证实了 Reason-KE 的鲁棒性和效率，为可靠的 LLM 知识更新建立了新的最先进水平。
引用
@article{arxiv.2509.01468,
title = {Robust Knowledge Editing via Explicit Reasoning Chains for Distractor-Resilient Multi-Hop QA},
author = {Yuchen Wu and Liang Ding and Li Shen and Dacheng Tao},
journal= {arXiv preprint arXiv:2509.01468},
year = {2025}
}
备注
EMNLP 2025 Findings