保护检索数据隐私以抵御成员推理攻击：此查询是否过于接近目标？
计算与语言
2025-11-25 v3
摘要
检索增强生成（RAG）缓解了大语言模型（LLM）的幻觉问题，并在个性化使用中证明有效。然而，将私有检索文档直接交付给 LLM 会引入针对成员推理攻击（MIA）的漏洞，此类攻击试图确定目标数据点是否存在于私有外部数据库中。基于 MIA 查询通常仅与单一目标文档表现出高相似性的洞察，我们引入了一种专为 RAG 系统设计的基于相似度的 MIA 检测框架。通过所提方法，我们表明简单的“检测并隐藏”策略能够成功混淆攻击者，保持数据效用，并对 MIA 保持系统无关性。我们通过实验证明了其对多种最先进 MIA 方法的检测与防御能力，以及对现有 RAG 系统的适应性。
引用
@article{arxiv.2505.22061,
title = {Safeguarding Privacy of Retrieval Data against Membership Inference Attacks: Is This Query Too Close to Home?},
author = {Yujin Choi and Youngjoo Park and Junyoung Byun and Jaewook Lee and Jinseong Park},
journal= {arXiv preprint arXiv:2505.22061},
year = {2025}
}
备注
Accepted for EMNLP findings 2025