通过推理实现检索增强语言模型知识库的版权保护
密码学与安全
2025-05-26 v2 人工智能
计算与语言
信息检索
机器学习
摘要
大语言模型（LLMs）越来越多地通过检索增强生成（RAG）机制集成到现实世界的个性化应用中，以领域特定知识补充其响应。然而，RAG中使用的有价值且通常专有的知识库引入了被对抗者未经授权使用的风险。现有的可泛化为水印技术以保护这些知识库的方法通常涉及投毒或后门攻击。然而，这些方法需要改变LLM对验证样本的结果，不可避免地使这些水印容易受到异常检测，甚至引入新的安全风险。为应对这些挑战，我们提出\name{}，用于知识库的"无害"版权保护。与其操作LLM的最终输出不同，\name{}在思维链（CoT）推理空间中植入独特但良性的验证行为，保持最终答案的正确性。我们的方法有三个主要阶段：（1）生成CoT：对于每个验证问题，我们生成两个"无害"的CoT，包括用于构建水印行为的目标CoT；（2）优化水印短语和目标CoT：受我们的理论分析启发，我们在黑盒和仅文本设置下优化它们以最小化可疑LLM的检索错误，确保只有水印验证查询才能检索其对应的目标CoT（存储在知识库中）；（3）所有权验证：我们利用成对Wilcoxon检验，通过比较可疑LLM对水印和良性验证查询的响应，验证该可疑LLM是否增强了受保护的知识库。我们在多样化基准上的实验证明，\name{}有效保护了知识库，并具有抵御自适应攻击的能力。
引用
@article{arxiv.2502.10440,
title = {Towards Copyright Protection for Knowledge Bases of Retrieval-augmented Language Models via Reasoning},
author = {Junfeng Guo and Yiming Li and Ruibo Chen and Yihan Wu and Chenxi Liu and Yanshuo Chen and Heng Huang},
journal= {arXiv preprint arXiv:2502.10440},
year = {2025}
}
备注
The first two authors contributed equally to this work. 25 pages