攻击预训练推荐系统
信息检索
2023-05-09 v1
摘要
近来，一系列开创性研究展示了预训练模型在序列推荐中的效力，为构建面向不同下游推荐任务的全知统一预训练推荐模型指明路径。尽管有这些进展，经典推荐系统的漏洞以新形式存在于预训练推荐中，而预训练推荐模型的安全性仍未被探索，这可能威胁其广泛实际应用。本研究中，我们提出一种用于预训练推荐中后门攻击的新框架。我们证明预训练模型提供方可在预训练阶段轻易插入后门，从而提高目标物品对目标用户群的曝光率。具体而言，我们在多种推荐预训练使用场景下设计了两种新颖有效的后门攻击：基础替换与提示增强。在真实数据集上的实验结果表明，相较干净模型，我们所提攻击策略将目标物品对目标用户的曝光率提升了数百倍。
引用
@article{arxiv.2305.03995,
title = {Attacking Pre-trained Recommendation},
author = {Yiqing Wu and Ruobing Xie and Zhao Zhang and Yongchun Zhu and FuZhen Zhuang and Jie Zhou and Yongjun Xu and Qing He},
journal= {arXiv preprint arXiv:2305.03995},
year = {2023}
}
备注
Accepted by SIGIR 2023