PromptCARE：基于水印注入与验证的提示版权保护
多媒体
2023-11-29 v2 密码学与安全
摘要
过去几个月中，大语言模型（LLMs）在普通用户中迅速流行，以人类水平的准确度和熟练度赋能多样化下游任务。提示在此成功中扮演关键角色，其通过简单地将一段令牌序列前置到查询文本，即可将预训练 LLM 高效适配至特定任务应用。然而，设计和筛选最优提示可能既昂贵又费力，导致了以授权使用方式提供精心设计的提示并获利的 Prompt-as-a-Service 提供商的出现。随着提示日益普及及其在基于 LLM 的服务中不可或缺的作用，迫切需要对提示版权进行保护以防未授权使用。本文提出 PromptCARE，首个通过水印注入与验证实现提示版权保护的框架。提示水印面临独特挑战，使现有为模型与数据集版权验证开发的水印技术失效。PromptCARE 通过提出为提示及 NLP 特性量身定制的水印注入与验证方案克服这些障碍。在六个知名基准数据集上使用三种主流预训练 LLM（BERT、RoBERTa 和 Facebook OPT-1.3b）的广泛实验，证明了 PromptCARE 的有效性、无害性、鲁棒性与隐蔽性。
引用
@article{arxiv.2308.02816,
title = {PromptCARE: Prompt Copyright Protection by Watermark Injection and Verification},
author = {Hongwei Yao and Jian Lou and Kui Ren and Zhan Qin},
journal= {arXiv preprint arXiv:2308.02816},
year = {2023}
}
备注
To Appear in the 45th IEEE Symposium on Security and Privacy 2024, code is available at: https://github.com/grasses/PromptCARE