理解并缓解 Vec2Text 对稠密检索系统的威胁
信息检索
2024-07-26 v2 计算与语言
摘要
Vec2Text——一种文本嵌入反演方法——的出现，引发了人们对使用文本嵌入的稠密检索系统（如 OpenAI 和 Cohere 提供的系统）的严重隐私担忧。这种威胁源于具有嵌入访问权限的恶意攻击者能够重构原始文本。在本文中，我们研究了与嵌入模型相关的可能影响 Vec2Text 文本可恢复性的各种因素。我们探索了距离度量、池化函数、瓶颈预训练、加噪训练、嵌入量化和嵌入维度等因素，这些在原始 Vec2Text 论文中均未被考虑。通过对这些因素的全面分析，我们的目标是更深入地理解影响稠密检索系统文本可恢复性与检索有效性之间权衡的关键要素，为设计具备隐私意识的稠密检索系统的从业者提供见解。我们还提出了一种简单的嵌入变换修复方法，在缓解可恢复性风险的同时保证同等的排序有效性。总体而言，本研究表明 Vec2Text 可能对当前的稠密检索系统构成威胁，但也存在一些有效的方法来修补此类系统。
引用
@article{arxiv.2402.12784,
title = {Understanding and Mitigating the Threat of Vec2Text to Dense Retrieval Systems},
author = {Shengyao Zhuang and Bevan Koopman and Xiaoran Chu and Guido Zuccon},
journal= {arXiv preprint arXiv:2402.12784},
year = {2024}
}