潜在因子推荐算法中敏感属性关联偏见的评估框架
信息检索
2023-11-01 v1
摘要
我们提出一种用于潜在因子推荐（LFR）算法表征偏见的新型评估框架。我们的框架引入推荐中属性关联偏见的概念，使从业者能够探究推荐系统如何引发或放大利益相关者表征危害。属性关联偏见（AAB）指敏感属性在训练所得的推荐潜在空间中被语义捕获或纠缠。该偏见可导致推荐器强化有害刻板印象，从而对系统消费者与提供者利益相关者造成下游表征危害。LFR 模型因其将显式与隐式属性纠缠进训练潜在空间的能力而面临 AAB 风险。鉴于实体向量作为属性用于混合工业推荐系统下游组件日益普遍，理解此现象至关重要。我们为从业者提供在更广算法审计框架内执行 AAB 分解评估的框架。受自然语言处理（NLP）中词嵌入性别偏见研究启发，我们的框架引入专为推荐实体向量的 AAB 评估方法。我们提出 LFR 模型中敏感 AAB 的四种评估策略：属性偏见方向、属性关联偏见度量、用于解释偏见的分类以及潜在空间可视化。我们通过一个生产级 DNN 推荐模型的工业案例研究，针对播客类型评估用户性别 AAB，展示了框架效用。我们发现当训练中将用户性别作为模型特征使用及移除时均存在显著的用户性别 AAB，表明 LFR 模型输出中可能存在系统性偏见。
引用
@article{arxiv.2310.20061,
title = {Evaluation Framework for Understanding Sensitive Attribute Association Bias in Latent Factor Recommendation Algorithms},
author = {Lex Beattie and Isabel Corpus and Lucy H. Lin and Praveen Ravichandran},
journal= {arXiv preprint arXiv:2310.20061},
year = {2023}
}