Chain-of-Note：增强检索增强语言模型的鲁棒性
计算与语言
2024-10-04 v2 人工智能
摘要
检索增强语言模型（RALMs）代表了大型语言模型能力的重大进步，特别是在利用外部知识源减少事实幻觉方面。然而，所检索信息的可靠性并非总能得到保证。检索到不相关的数据可能导致误导性的回复，并可能使模型忽视其固有知识，即便它拥有足以处理查询的信息。此外，标准 RALMs 往往难以评估其是否拥有充足的知识（无论是内在的还是检索到的）来提供准确答案。在知识缺失的情况下，这些系统理想地应在无法获得答案时回复“未知”。为应对这些挑战，我们提出了 Chain-of-Noting（CoN），一种旨在提高 RALMs 在面对噪声、不相关文档以及处理未知场景时鲁棒性的新方法。CoN 的核心思想是为检索到的文档生成顺序阅读笔记，从而彻底评估其与给定问题的相关性，并整合该信息以形成最终答案。我们使用 ChatGPT 为 CoN 创建训练数据，随后在 LLaMa-2 7B 模型上进行了训练。我们在四个开放域问答基准上的实验表明，配备 CoN 的 RALMs 显著优于标准 RALMs。值得注意的是，在给定完全含噪声的检索文档时，CoN 在 EM 分数上实现了 +7.9 的平均提升，对于超出预训练知识范围的实时问题，其拒答率提升了 +10.5。
引用
@article{arxiv.2311.09210,
title = {Chain-of-Note: Enhancing Robustness in Retrieval-Augmented Language Models},
author = {Wenhao Yu and Hongming Zhang and Xiaoman Pan and Kaixin Ma and Hongwei Wang and Dong Yu},
journal= {arXiv preprint arXiv:2311.09210},
year = {2024}
}
备注
EMNLP 2024 (main conference)