WARDEN：用于嵌入即服务版权保护的多向后门水印
密码学与安全
2024-06-11 v2 计算与语言
机器学习
摘要
嵌入即服务（EaaS）已成为一种广泛采用的解决方案，为自然语言处理（NLP）中的各种下游任务提供特征提取能力。先前的研究表明，EaaS 容易受到模型提取攻击；尽管如此，通过在文本嵌入中添加后门水印并在发布后验证攻击模型，可以缓解这一担忧。通过对近期 EaaS 水印策略 EmbMarker 的分析，我们设计了一种新颖的 CSE（聚类、选择、消除）攻击，该攻击能在保持嵌入高实用性的同时移除后门水印，表明先前的水印方法可被攻破。针对这一新威胁，我们提出了一种新协议，通过整合多个可能的水印方向使水印移除更加困难。我们的防御方法 WARDEN 显著提高了水印的隐蔽性，并经实证证明能有效抵御 CSE 攻击。
引用
@article{arxiv.2403.01472,
title = {WARDEN: Multi-Directional Backdoor Watermarks for Embedding-as-a-Service Copyright Protection},
author = {Anudeex Shetty and Yue Teng and Ke He and Qiongkai Xu},
journal= {arXiv preprint arXiv:2403.01472},
year = {2024}
}
备注
Accepted to ACL2024 (Main Proceedings)