通过实时邻域防御实现鲁棒推荐
机器学习
2023-10-02 v1 密码学与安全
信息检索
摘要
推荐系统已被证明易受投毒攻击，即向数据集中注入恶意数据以使推荐系统给出有偏推荐。为防御此类攻击，已有多种鲁棒学习方法被提出。然而，多数方法为模型特定或攻击特定，缺乏通用性；而诸如对抗训练等其他方法面向规避攻击，在投毒攻击中防御力较弱。本文提出一种通用方法——实时邻域防御（RVD），其在为每个用户进行推荐前利用邻近训练数据微调模型。RVD 在推理阶段工作以确保特定样本的实时鲁棒性，故无需改变模型结构与训练过程，更具实用性。大量实验结果表明，RVD 在多种模型上有效缓解定向投毒攻击且不牺牲准确率。此外，当我们的方法与其他策略结合时防御效果可进一步增强。
引用
@article{arxiv.2309.17278,
title = {Toward Robust Recommendation via Real-time Vicinal Defense},
author = {Yichang Xu and Chenwang Wu and Defu Lian},
journal= {arXiv preprint arXiv:2309.17278},
year = {2023}
}