中文

去偏黑盒:一种基于知识蒸馏的公平排序框架

信息检索 2022-08-25 v1 计算机与社会 机器学习

摘要

深度神经网络能够捕捉查询与文档之间复杂的交互历史信息,这得益于其众多非线性单元,从而提供正确的搜索推荐。然而,服务提供商在真实场景中经常面临更复杂的障碍,例如部署成本约束与公平性要求。知识蒸馏将训练良好的复杂模型(教师)的知识迁移至简单模型(学生),已被提出以缓解前者之忧,但当前最佳的蒸馏方法仅关注如何让学生模型模仿教师模型的预测。为更好地促进深度模型的应用,我们提出一种基于知识蒸馏的公平信息检索框架。该框架可在显著减小模型规模的同时提升模型基于曝光的公平性。我们在三个大型数据集上的大量实验表明,所提框架可将模型规模缩减至原始规模的至少 1%,同时保持其黑盒状态。它还在保持高推荐有效性的同时,将公平性表现提升了 15%~46%。

关键词

引用

@article{arxiv.2208.11628,
  title  = {Debias the Black-box: A Fair Ranking Framework via Knowledge Distillation},
  author = {Zhitao Zhu and Shijing Si and Jianzong Wang and Yaodong Yang and Jing Xiao},
  journal= {arXiv preprint arXiv:2208.11628},
  year   = {2022}
}

备注

This paper has been accepted by the 23rd International Conference on Web Information Systems Engineering (WISE 2022)