面向主题的黑盒神经排序模型对抗攻击
信息检索
2023-05-01 v1
摘要
神经排序模型（NRMs）在信息检索中引起了相当多的关注。不幸的是，NRMs 可能继承一般神经网络的对抗脆弱性，这可能被黑帽搜索引擎优化从业者所利用。近来，针对 NRMs 的对抗攻击已在配对攻击设定下被探索，即为特定查询对目标文档生成对抗扰动。本文关注一种更通用的扰动类型，并引入面向主题的对抗排序攻击任务以攻击 NRMs，其旨在找到一种难以察觉的扰动，能使目标文档在同一主题的一组查询的排序中提升。我们为该任务定义了静态与动态设定，并聚焦于基于决策的黑盒攻击。我们提出一种基于代理排序模型的新颖框架以提升面向主题的攻击性能。攻击问题被形式化为马尔可夫决策过程（MDP）并使用强化学习求解。具体而言，一个面向主题的奖励函数引导策略寻找成功的对抗样本，使其能在组中尽可能多的查询的排序中被提升。实验结果表明所提框架能显著优于现有攻击策略，并总结指出在现实世界中应用 NRMs 存在潜在风险。
引用
@article{arxiv.2304.14867,
title = {Topic-oriented Adversarial Attacks against Black-box Neural Ranking Models},
author = {Yu-An Liu and Ruqing Zhang and Jiafeng Guo and Maarten de Rijke and Wei Chen and Yixing Fan and Xueqi Cheng},
journal= {arXiv preprint arXiv:2304.14867},
year = {2023}
}
备注
Accepted by SIGIR 2023