文本检索中对抗排序攻击的防御：基于检测的基准与基线
信息检索
2023-08-01 v1 计算与语言
摘要
神经排序模型（NRMs）已取得显著发展，并成为信息检索（IR）系统的核心组成部分。遗憾的是，近期研究揭示了NRMs对对抗性文档篡改的脆弱性，这可能被恶意的搜索引擎优化从业者所利用。尽管对抗攻击策略的进展有助于在部署前识别NRMs的潜在弱点，但针对此类攻击的防御措施（如对抗文档的检测）仍探索不足。为弥补这一缺口，本文建立了一个基准数据集以促进对抗排序防御的研究，并引入了两类对抗文档检测任务。我们对若干检测基线的性能进行了全面调研，包括考察垃圾性（spamicity）、困惑度（perplexity）与语言可接受性，以及使用有监督分类器。实验结果表明，有监督分类器能有效缓解已知攻击，但对未知攻击表现不佳。此外，此类分类器应避免使用查询文本，以防止学习到基于相关性的分类，从而可能导致相关文档被无意丢弃。
引用
@article{arxiv.2307.16816,
title = {Defense of Adversarial Ranking Attack in Text Retrieval: Benchmark and Baseline via Detection},
author = {Xuanang Chen and Ben He and Le Sun and Yingfei Sun},
journal= {arXiv preprint arXiv:2307.16816},
year = {2023}
}
备注
11 pages, work in progress