FairRec：深度推荐系统的公平性测试
人工智能
2023-04-17 v1
摘要
基于深度学习的推荐系统(DRSs)正日益广泛地部署于工业界，以不同方式极大便利了人们的日常生活。然而，推荐系统也被表明存在多重问题，例如回声室与马太效应，其中“公平性”这一概念起着核心作用。尽管已为传统深度分类模型开发了许多公平性概念及相应的公平性测试方法，它们本质上难以应用于DRSs。一个主要困难在于，对现有公平性概念与深度推荐系统多样测试需求之间仍缺乏系统性理解与映射，更毋论进一步的测试或调试活动。为弥补该缺口，我们提出FairRec，一个统一框架，支持从多定制视角（例如模型效用、物品多样性、物品流行度等）对DRSs进行公平性测试。我们还提出一种新颖高效的基于搜索的测试方法以应对新挑战，即双端离散粒子群优化(DPSO)算法，以从海量候选群体中有效搜索以某些弱势群体制形式的隐藏公平性问题。给定测试报告，通过对这些已识别弱势群体采用简单重排序缓解策略，我们展示DRSs的公平性可得以显著改善。我们在领先企业采用的多个工业级DRSs上进行了广泛实验。结果证实FairRec能高效且有效地识别深度隐藏的公平性问题，例如以一半至1/8的时间实现95%的测试准确率。
引用
@article{arxiv.2304.07030,
title = {FairRec: Fairness Testing for Deep Recommender Systems},
author = {Huizhong Guo and Jinfeng Li and Jingyi Wang and Xiangyu Liu and Dongxia Wang and Zehong Hu and Rong Zhang and Hui Xue},
journal= {arXiv preprint arXiv:2304.07030},
year = {2023}
}