给推荐系统加水印
信息检索
2024-10-01 v3 密码学与安全
机器学习
摘要
推荐系统具有重要的商业价值，是重要的知识产权的关键组成部分。然而，这些系统的完整性不断受到寻求窃取其底层模型的恶意行为者的挑战。保护这些威胁对于维护模型所有者的权利和利益至关重要。虽然模型水印已成为各种领域的强大防御机制，但其直接应用于推荐系统仍未探索且并不容易实现。在本文中，我们弥补了这一差距，通过引入自回归超出分布水印（Autoregressive Out-of-distribution Watermarking, AOW）这种专为推荐系统量身定制的新技术。我们的做法涉及选择初始物品并通过 oracle 模型进行查询，随后选择预测得分较小的后续物品。这一迭代过程自动生成水印序列，然后通过训练将其内嵌到模型的记忆中。为了评估水印的有效性，该模型被要求根据给定的截断水印序列预测下一个物品。通过广泛的实验和分析，我们展示了AOW的卓越性能和稳健特性。值得注意的是，我们的水印技术具有高置信度提取能力，并在蒸馏和微调过程中保持有效性。
引用
@article{arxiv.2407.21034,
title = {Watermarking Recommender Systems},
author = {Sixiao Zhang and Cheng Long and Wei Yuan and Hongxu Chen and Hongzhi Yin},
journal= {arXiv preprint arXiv:2407.21034},
year = {2024}
}