Classifier-to-Bias：面向无监督视觉分类器自动偏差检测
计算机视觉与模式识别
2025-04-30 v1 人工智能
机器学习
摘要
用户下载预训练模型后应 awareness 其偏差。现有方法依赖包含感兴趣任务标签的数据集进行偏差识别，而这类数据往往需要非专业用户获取或需要大量资源收集：这大大限制了可识别模型偏差的任务数量。在本工作中，我们提出 Classifier-to-Bias（C2B），首个无需访问任何标记数据即可发现模型偏差的框架：它仅依赖对分类任务的文本描述即可识别分类模型中的偏差。该描述被输入大型语言模型，以生成偏差提案及其对应的描述文本，同时包含任务特定的目标标签。检索模型收集这些描述对应的图像，然后用于评估模型就给定偏差的准确性。C2B 无需训练，无需任何标注，偏差列表无限制，可应用于任何预训练模型的任何分类任务。在两个公开数据集上的实验表明，C2B 发现的偏差超越原始数据集所包含的偏差，且优于依赖任务特定标注的最新无监督偏差检测基线方法，为解决任务无监督偏差检测指出了有前景的第一步。
引用
@article{arxiv.2504.20902,
title = {Classifier-to-Bias: Toward Unsupervised Automatic Bias Detection for Visual Classifiers},
author = {Quentin Guimard and Moreno D'Incà and Massimiliano Mancini and Elisa Ricci},
journal= {arXiv preprint arXiv:2504.20902},
year = {2025}
}
备注
CVPR 2025. Code: https://github.com/mardgui/C2B