基于深度学习的稠密检索：一项比较研究
计算与语言
2024-10-29 v1 人工智能
摘要
稠密检索器在各种信息检索任务中取得了 SOTA 性能，但它们针对分词器投毒的鲁棒性仍有待探索。在本工作中，我们通过评估 BERT、Dense Passage Retrieval (DPR)、Contriever、SimCSE 和 ANCE 等模型，衡量了稠密检索系统对投毒分词器的脆弱性。我们发现，当分词器受损时，像 BERT 和 DPR 这样的监督模型会出现显著的性能下降，而像 ANCE 这样的无监督模型则表现出更强的抗性。我们的实验表明，即使是微小的扰动也会严重影响检索准确性，突出了在关键应用中需要稳健防御的必要性。
引用
@article{arxiv.2410.20315,
title = {Deep Learning Based Dense Retrieval: A Comparative Study},
author = {Ming Zhong and Zhizhi Wu and Nanako Honda},
journal= {arXiv preprint arXiv:2410.20315},
year = {2024}
}
备注
7 pages