误导之源：针对神经排序模型的对抗内容注入攻击
信息检索
2026-05-05 v1 计算与语言
摘要
神经排序模型 (NRMs) 是现代信息检索的核心组件, 但高度易受对抗操纵. 现有攻击常依赖启发式方法或替代模型, 限制了其有效性与可迁移性. 我们提出 CRAFT, 一个由大型语言模型 (LLMs) 提供动力的黑盒对抗排序攻击监督框架. CRAFT 在三个阶段运行: 通过检索增强生成和自我精炼生成对抗数据集, 对精选的对抗样本进行监督微调, 以及利用偏好引导优化以对齐生成与排序提升目标. 在 MS MARCO passage 数据集、TREC Deep Learning 2019 和 TREC Deep Learning 2020 基准测试中进行大规模实验, 显示 CRAFT 显著优于最先进的基线方法, 在保持流畅性和语义忠实度的同时实现更高的提升率和排序提升. 此外, CRAFT 在包括 cross-encoder、基于嵌入和 LLM 排序器在内的多种排序架构之间有效迁移, 揭示了实际检索系统中的漏洞. 本工作提供了一个原则化的框架来研究 NRMs 的对抗威胁, 强调生成式 AI 在排序操纵中的风险, 并为开发更健壮的检索系统奠定了基础. 为保证可重复性, 我们公开了源代码、训练好的模型以及提示模板.
引用
@article{arxiv.2605.01591,
title = {Led to Mislead: Adversarial Content Injection for Attacks on Neural Ranking Models},
author = {Amin Bigdeli and Amir Khosrojerdi and Radin Hamidi Rad and Morteza Zihayat and Charles L. A. Clarke and Ebrahim Bagheri},
journal= {arXiv preprint arXiv:2605.01591},
year = {2026}
}