使用户不可区分：推荐系统中的属性级遗忘
机器学习
2023-10-10 v1 人工智能
密码学与安全
信息检索
摘要
随着推荐系统中隐私问题的日益增长，推荐遗忘（即遗忘特定学习目标的影响）正受到越来越多的关注。现有研究主要使用训练数据（即模型输入）作为遗忘目标。然而，我们发现攻击者即使未在训练中显式遇到，也能从训练好的模型中提取私人信息（即性别、种族和年龄）。我们将这种未见信息命名为属性，并将其作为遗忘目标。为保护用户的敏感属性，属性遗忘（AU）旨在降低攻击性能并使目标属性不可区分。在本文中，我们关注 AU 的一个严格但实用的设定，即训练后属性遗忘（PoT-AU），其中遗忘只能在推荐模型训练完成后执行。为解决推荐系统中的 PoT-AU 问题，我们设计了一个由两部分组成的损失函数：i) 可区分性损失：使属性标签对攻击者不可区分；ii) 正则化损失：防止模型发生剧烈变化从而对推荐性能产生负面影响。具体而言，我们研究了两类可区分性度量，即用户到用户和分布到分布。我们使用随机梯度下降算法来优化所提出的损失。在三个真实世界数据集上的大量实验证明了我们提出方法的有效性。
引用
@article{arxiv.2310.05847,
title = {Making Users Indistinguishable: Attribute-wise Unlearning in Recommender Systems},
author = {Yuyuan Li and Chaochao Chen and Xiaolin Zheng and Yizhao Zhang and Zhongxuan Han and Dan Meng and Jun Wang},
journal= {arXiv preprint arXiv:2310.05847},
year = {2023}
}