通过纯合成数据消除检索增强生成（RAG）中的隐私问题
密码学与安全
2025-02-21 v2
摘要
检索增强生成（RAG）通过整合来自外部知识源检索到的相关信息来增强语言模型的输出。然而，当检索过程涉及私人数据时，RAG 系统可能面临严重的隐私风险，可能导致敏感信息泄露。为此，我们提出使用合成数据作为检索数据的隐私保护替代方案。我们提出了 SAGE，一种新颖的两阶段合成数据生成范式。在阶段 1 中，我们采用基于属性的提取和生成方法，以保留原始数据的关键上下文信息。在阶段 2 中，我们通过基于智能体的迭代细化过程进一步提高合成数据的隐私属性。大量实验表明，使用我们的合成数据作为检索上下文可实现与使用原始数据相当的性能，同时显著降低隐私风险。我们的工作是首次探讨生成高效用性和隐私保护合成数据以供 RAG 使用的可能性，为 RAG 系统在各个领域安全应用开辟了新机遇。
引用
@article{arxiv.2406.14773,
title = {Mitigating the Privacy Issues in Retrieval-Augmented Generation (RAG) via Pure Synthetic Data},
author = {Shenglai Zeng and Jiankun Zhang and Pengfei He and Jie Ren and Tianqi Zheng and Hanqing Lu and Han Xu and Hui Liu and Yue Xing and Jiliang Tang},
journal= {arXiv preprint arXiv:2406.14773},
year = {2025}
}