EMPRA：针对神经排序模型的嵌入扰动排名攻击
信息检索
2025-02-28 v2
摘要
最近的研究表明，神经信息检索技术可能易受对抗攻击。对抗攻击旨在操控文档的排序，以便让用户接触到特定目标内容。本文我们引入了嵌入扰动排名攻击（EMPRA）方法，这是一种新颖的方法，旨在对黑箱神经排序模型（NRM）进行对抗攻击。EMPRA 操作句子级嵌入，引导它们导向与查询相关的 pertinent 上下文，同时保持语义完整性。这一过程生成的对抗文本能够无缝融合原始内容，且对人类难以察觉。我们在广泛使用的 MS MARCO V1 passage 数据集上进行了广泛评估，证明了 EMPRA 在提升一组特定目标文档在给定排序结果中的位置方面，对多种最新基线方法都 highly effective。具体而言，EMPRA 成功地将原本位于 51-100 区间的 nearly 96% 目标文档重新排序至排名前 10。此外，EMPRA 不依赖代理模型生成对抗文本，增强了其在真实场景中针对不同 NRM 的鲁棒性。
引用
@article{arxiv.2412.16382,
title = {EMPRA: Embedding Perturbation Rank Attack against Neural Ranking Models},
author = {Amin Bigdeli and Negar Arabzadeh and Ebrahim Bagheri and Charles L. A. Clarke},
journal= {arXiv preprint arXiv:2412.16382},
year = {2025}
}