利用对抗训练在推荐系统中遗忘受保护用户属性
信息检索
2022-06-10 v1 人工智能
密码学与安全
机器学习
摘要
协同过滤算法捕捉潜在的消费模式，包括特定于特定人口统计或用户受保护信息(例如性别、种族和位置)的模式。这些被编码的偏差会影响推荐系统(RS)的决策，进一步分离提供给各人口统计子组的内容，并引发关于用户受保护属性披露的隐私担忧。在这项工作中，我们研究在保持有效性的同时，从RS算法的学习交互表示中移除用户特定受保护信息的可能性与挑战。具体而言，我们将对抗训练纳入最先进的MultVAE架构，得到一种新颖模型——具有多项似然的对抗变分自编码器(Adv-MultVAE)，其旨在去除受保护属性的隐式信息同时保持推荐性能。我们在MovieLens-1M与LFM-2b-DemoBias数据集上开展实验，并基于外部攻击者从模型中揭示用户性别信息的能力不足来评估偏差缓解方法的有效性。与基线MultVAE相比，结果显示Adv-MultVAE在性能边际退化(就NDCG与召回率而言)的情况下，在两大数据集上大幅缓解了模型中的固有偏差。
引用
@article{arxiv.2206.04500,
title = {Unlearning Protected User Attributes in Recommendations with Adversarial Training},
author = {Christian Ganhör and David Penz and Navid Rekabsaz and Oleg Lesota and Markus Schedl},
journal= {arXiv preprint arXiv:2206.04500},
year = {2022}
}
备注
Accepted at SIGIR 2022