操纵推荐系统：毒化攻击与对抗措施综述
密码学与安全
2024-04-24 v1 信息检索
机器学习
摘要
推荐系统已成为在海量数据中帮助用户定位特定信息的关键组成部分。然而，既有研究表明，一些推荐系统对毒化攻击高度脆弱，尤其是涉及学习方案的攻击。毒化攻击指的是，攻击者注入精心设计的数据以操纵模型训练过程，从而影响系统的最终推荐。随着人工智能技术的进步，这类攻击近年来受到高度关注。虽然已developed 众多针对毒化攻击的对抗措施，但这些措施尚未与攻击的属性相系统性地关联，导致评估其风险和潜在成功性困难，甚至不可能。本综述旨在弥补这一空白，主要关注毒化攻击及其对抗措施。与既有综述不同，本综述专注于攻击及其对抗措施。通过详尽的文献综述，我们提出一种新的毒化攻击分类框架，形式化其维度，并据此组织 30 多种文献中描述的攻击。进一步，我们综述了 40 多种对抗措施以检测和/或防止毒化攻击，评估其针对特定攻击类型的有效性。本全面综述应为保护推荐系统免受毒化攻击提供参考。文章以讨论未解决问题及未来研究的有影响力的方向收尾。与本综述相关的毒化攻击资源库已公开于 https://github.com/tamlhp/awesome-recsys-poisoning。
引用
@article{arxiv.2404.14942,
title = {Manipulating Recommender Systems: A Survey of Poisoning Attacks and Countermeasures},
author = {Thanh Toan Nguyen and Quoc Viet Hung Nguyen and Thanh Tam Nguyen and Thanh Trung Huynh and Thanh Thi Nguyen and Matthias Weidlich and Hongzhi Yin},
journal= {arXiv preprint arXiv:2404.14942},
year = {2024}
}