GASLITEing 检索：探索稠密嵌入搜索中的漏洞

稠密嵌入式文本检索——通过深度学习编码检索语料库中相关段落的技术——已成为一种获得最先进搜索结果并推动检索增强生成(RAG)普及的方法。然而，像其他搜索方法一样，嵌入式检索可能对搜索引擎优化(SEO)攻击敏感，攻击者通过引入对抗性段落来推广恶意内容。先前的工作表明，SEO是可行的，主要是针对检索集成系统(如RAG)的攻击 Demonstration。然而，这些考虑的是放宽的SEO威胁模型(例如针对单个查询)，使用基准攻击方法，提供小规模检索评估，从而掩盖了我们对检索器最坏情况行为的全面理解。本工作旨在忠实且彻底地评估检索器的鲁棒性，从而揭示其对SEO的敏感性因素。为此，我们首先提出GASLITE攻击，用于生成对抗性段落，该攻击——无需依赖语料库内容或修改模型——即可实现 adversary-chosen 信息的高检索排序，持续优于先前方法。其次，我们使用GASLITE广泛评估检索器的鲁棒性，在各种威胁模型下测试九个先进模型，重点关注针对特定概念(如公众人物)查询的相关攻击者。在我们的发现中：即使在极小的投毒率(例如$\geq$0.0001%的语料库)下，检索器对概念特定查询也高度易受SEO攻击，而且能够在不同语料库和查询分布之间推广；GASLITE完全解决了单查询SEO；适应性攻击能够绕过常见防御；[...]。