社会规范偏差：公平感知算法的残余危害
机器学习
2023-01-24 v3 人工智能
计算机与社会
摘要
许多现代机器学习算法通过在与敏感属性（如性别或种族）相关的粗略定义群体间施加公平性约束来缓解偏差。然而，这些算法很少考虑群体内的异质性以及可能不成比例地影响群体中某些成员的偏差。在本工作中，我们刻画了社会规范偏差（Social Norm Bias, SNoB），这是一种机器学习模型可能表现出的微妙但后果严重的算法歧视类型，即使这些系统实现了群体公平目标。我们通过职业分类中性别偏差的视角来研究这一问题。我们通过测量算法预测与对推断性别规范的遵从性之间的关联来量化 SNoB。在预测个体是否属于男性主导职业时，该框架揭示出“公平”的分类器仍然偏好以符合推断男性规范方式撰写的传记。我们比较了不同算法公平性方法中的 SNoB，表明它通常是一种残余偏差，而后处理方法根本无法缓解此类偏差。
引用
@article{arxiv.2108.11056,
title = {Social Norm Bias: Residual Harms of Fairness-Aware Algorithms},
author = {Myra Cheng and Maria De-Arteaga and Lester Mackey and Adam Tauman Kalai},
journal= {arXiv preprint arXiv:2108.11056},
year = {2023}
}
备注
Spotlighted at the 2021 ICML Machine Learning for Data Workshop and presented at the 2021 ICML Socially Responsible Machine Learning Workshop