推荐系统抵御模型提取攻击的防御方法
机器学习
2023-10-26 v1
摘要
推荐系统的鲁棒性已成为研究界的热点话题。已有众多对抗攻击被提出，但大多数依赖于广泛的先验知识，例如所有白盒攻击或多数假设某些外部知识可用的黑盒攻击。在这些攻击中，模型提取攻击作为一种有前景且实用的方法脱颖而出，其通过反复查询目标模型来训练替代模型。然而，现有文献在防御推荐系统模型提取攻击方面存在显著空白。本文中，我们提出基于梯度的排序优化（GRO），这是首个旨在应对此类攻击的防御策略。我们将防御形式化为一个优化问题，旨在最小化受保护目标模型的损失，同时最大化攻击者替代模型的损失。由于 top-k 排序列表不可微，我们将其转化为可微的交换矩阵。这些交换矩阵作为模拟替代模型行为的学生模型的输入。通过反向传播学生模型的损失，我们获得交换矩阵的梯度。这些梯度用于计算交换损失，从而最大化学生模型的损失。我们在三个基准数据集上进行了实验以评估 GRO 的性能，结果证明了其在防御模型提取攻击方面的优越有效性。
引用
@article{arxiv.2310.16335,
title = {Defense Against Model Extraction Attacks on Recommender Systems},
author = {Sixiao Zhang and Hongzhi Yin and Hongxu Chen and Cheng Long},
journal= {arXiv preprint arXiv:2310.16335},
year = {2023}
}