面向稳健 RALM：揭示不完美检索对检索增强语言模型的影响
计算与语言
2024-10-22 v1
摘要
检索增强语言模型 (RALMs) 因其能够生成准确答案并提高效率而受到广泛关注。然而，RALMs 因依赖不完美的检索器或知识源而本质上对不完美信息具有脆弱性。我们识别了三个常见情形——不可回答、对抗、冲突——检索文档集可能混淆 RALM。我们提出了首个全面检验 RALMs 如何检测和处理此类问题情形的方法。针对对抗鲁棒性，我们提出了新的对抗攻击方法——基于生成模型的对抗攻击 (GenADV)，并提出了新的度量指标——在额外文档下的鲁棒性 (RAD)。我们的发现表明，RALMs 往往无法识别文档集的不可回答性或矛盾性，这会导致频繁的幻觉现象。此外，我们展示了添加对抗内容会显著降低 RALM 的性能，当两种情形重叠时 (对抗+不可回答)，模型会变得更加脆弱。我们的研究确定了评估和增强 RALMs 鲁棒性的关键领域，为开发更稳健的模型奠定了基础。
引用
@article{arxiv.2410.15107,
title = {Toward Robust RALMs: Revealing the Impact of Imperfect Retrieval on Retrieval-Augmented Language Models},
author = {Seong-Il Park and Jay-Yoon Lee},
journal= {arXiv preprint arXiv:2410.15107},
year = {2024}
}
备注
Accepted for publication in Transactions of the Association for Computational Linguistics (TACL)