工作流中的公平性：大型科技公司机器学习从业者如何在推荐系统中处理公平性
人机交互
2026-03-02 v3 人工智能
计算机与社会
机器学习
摘要
推荐系统（RS）被广泛应用于高风险领域，容易受到偏见的影响，从而可能造成大规模的社会影响。研究人员已经提出了测量和缓解此类偏见的方法，但将学术理论转化为实践本质上具有挑战性。通过一项半结构化访谈研究（N=11），我们绘制了大型科技公司内 RS 从业者的工作流程，重点关注技术团队如何在内部以及与法务、数据和公平性团队的合作中考虑公平性。我们确定了将公平性纳入现有 RS 工作流程的关键挑战：在 RS 语境下定义公平性、平衡多利益相关者的利益以及应对动态环境。我们还确定了组织范围内的关键挑战：为公平性工作留出时间以及促进跨团队沟通。最后，我们为 RS 社区（包括从业者和 HCI 研究人员）提供了可操作的建议。
引用
@article{arxiv.2505.19441,
title = {Fairness-in-the-Workflow: How Machine Learning Practitioners at Big Tech Companies Approach Fairness in Recommender Systems},
author = {Jing Nathan Yan and Emma Harvey and Junxiong Wang and Jeffrey M. Rzeszotarski and Allison Koenecke},
journal= {arXiv preprint arXiv:2505.19441},
year = {2026}
}
备注
CHI 2026