性别斜率：通过属性操控实现计算机视觉模型的因果公平性
计算机视觉与模式识别
2020-05-22 v1 人工智能
机器学习
摘要
自动化计算机视觉系统已应用于包括安全、执法和个人设备在内的诸多领域，但近期报告指出这些系统可能产生偏见结果，对某些人口统计群体的人员存在歧视。然而，诊断和理模型偏见的潜在真实成因是颇具挑战的任务，因为现代计算机视觉系统依赖难以解码的复杂黑盒模型。我们提议使用为图像属性操控开发的编码器-解码器网络，合成在性别和种族维度上变化而保持其他信号不变的面部图像。我们利用这些合成图像，通过考察这些分类器受图像中受控性别与种族线索影响的程度，来衡量商业计算机视觉分类器的因果公平性，例如女性面孔可能对护士概念给出更高分数，而对STEM相关概念给出更低分数。我们还报告了某在线搜索服务在职业相关关键词上的偏斜性别表征，这可能解释模型中编码偏见的起源。
引用
@article{arxiv.2005.10430,
title = {Gender Slopes: Counterfactual Fairness for Computer Vision Models by Attribute Manipulation},
author = {Jungseock Joo and Kimmo Kärkkäinen},
journal= {arXiv preprint arXiv:2005.10430},
year = {2020}
}