生成即信任：检索增强生成中的成员推断攻击
密码学与安全
2024-09-27 v2 人工智能
摘要
检索增强生成 (Retrieval-Augmented Generation, RAG) 是一种先进技术，通过从外部数据库检索相关知识来辅助内容生成，从而缓解大语言模型 (LLM) 中的幻觉和知识陈旧等问题。现有研究已证明了 RAG 的 LLM 存在潜在隐私风险。然而，包含医疗记录或个人身份等敏感数据的外部数据库与集成方式所带来的隐私风险，目前仍鲜有探讨。本文旨在弥合这一空白，聚焦于 RAG 外部数据库的成员隐私，即确定给定样本是否属于 RAG 数据库。我们的核心思想是：若样本存在于外部数据库中，则其语义相似度将高于由 RAG 系统生成的文本。我们提出了 SMIA (Semantic Similarity-based Membership Inference Attack)，一种基于语义相似度的成员推断攻击方法。通过本文提出的 SMIA，我们展示了能够突破 RAG 数据库成员隐私的能力。实验结果表明，SMIA 在五种现有成员推断攻击方法中表现出强大的推理性能，并能够规避三种典型防御措施的保护。
引用
@article{arxiv.2406.19234,
title = {Generating Is Believing: Membership Inference Attacks against Retrieval-Augmented Generation},
author = {Yuying Li and Gaoyang Liu and Chen Wang and Yang Yang},
journal= {arXiv preprint arXiv:2406.19234},
year = {2024}
}