通过检索增强型大语言模型中的水印金丝雀保护数据集
密码学与安全
2025-02-18 v1 计算与语言
摘要
检索增强型生成（RAG）已成为通过最新知识增强大语言模型（LLM）的有效方法。然而，它带来了显著的知识产权侵权风险，因为知识产权数据集可能被恶意检索增强型大语言模型（RA-LLMs）在未经授权的情况下纳入知识数据库。为保护数据集所有者的权利，需要一种针对RA-LLMs的有效数据集成员推理算法。在本工作中，我们提出了一种新颖的方法来保护文本数据集的所有权，并有效检测RA-LLMs的未经授权使用。我们的方法在完全保留原始数据不变的情况下，通过向知识产权数据集中插入专门设计的金丝雀文档来保护数据。这些金丝雀文档由合成内容创建，并嵌入水印以确保唯一性、隐蔽性和统计可证明性。在检测过程中，通过查询金丝雀文档并分析RA-LLMs的响应以获取嵌入水印的统计证据来识别未经授权的使用。我们的实验结果表明，该方法具有高查询效率、可检测性和隐蔽性，以及对原始数据集的最小扰动，且不会损害RAG系统的性能。
引用
@article{arxiv.2502.10673,
title = {Dataset Protection via Watermarked Canaries in Retrieval-Augmented LLMs},
author = {Yepeng Liu and Xuandong Zhao and Dawn Song and Yuheng Bu},
journal= {arXiv preprint arXiv:2502.10673},
year = {2025}
}