评估预训练图像识别模型表示中的交叉偏见
计算机视觉与模式识别
2025-06-09 v2 计算机与社会
人机交互
机器学习
摘要
深度学习模型已取得显著成功。通过基于预训练模型进行训练来加速模型训练，存在延续编码偏见的风险。在此，我们研究了常用ImageNet分类器在面部图像表示中的偏见，同时考虑年龄、种族和性别等敏感变量的交集。为评估偏见，我们使用线性分类器探针，并将激活可视化为拓扑图。我们发现，ImageNet分类器中的表示尤其能够区分不同年龄。程度较弱的是，模型似乎将某些族裔相关联，并在中年群体中区分性别。
引用
@article{arxiv.2506.03664,
title = {Assessing Intersectional Bias in Representations of Pre-Trained Image Recognition Models},
author = {Valerie Krug and Sebastian Stober},
journal= {arXiv preprint arXiv:2506.03664},
year = {2025}
}
备注
Summary paper accepted at the 3rd TRR 318 Conference: Contextualizing Explanations 2025