CelebA注意力图分析偏差
计算机视觉与模式识别
2025-03-27 v2 机器学习
摘要
计算机视觉模型已被证明在广泛的数据集和任务中表现出并放大偏差。现有方法用于量化分类模型的偏差主要关注数据分布和子组模型性能，忽略了模型内部工作方式。我们引入Attention-IoU（Attention Intersection over Union）指标和相关得分，这些指标利用注意力图揭示模型内部表征中的偏差并识别可能引起偏差的图像特征。首先，我们在合成Waterbirds数据集上验证了Attention-IoU，表明该指标准确地测量了模型偏差。我们然后分析了CelebA数据集，发现Attention-IoU揭示了超出准确性差异的相关性。通过对受保护属性为Male的单个属性进行调查，我们检查了CelebA中偏差的不同表示方式。最后，通过对训练集进行子采样以改变属性相关性，我们表明Attention-IoU揭示了数据标签中不存在的潜在混淆变量。
关键词
引用
@article{arxiv.2503.19846,
title = {Attention IoU: Examining Biases in CelebA using Attention Maps},
author = {Aaron Serianni and Tyler Zhu and Olga Russakovsky and Vikram V. Ramaswamy},
journal= {arXiv preprint arXiv:2503.19846},
year = {2025}
}
备注
To appear in CVPR 2025. Code and data is available at https://github.com/aaronserianni/attention-iou . 15 pages, 14 figures, including appendix