BiasEdit：面向学习公平视觉分类器的无训练偏置检测与编辑框架
计算机视觉与模式识别
2026-05-28 v1 人工智能
摘要
Web 上的视觉数据为图像分类提供了数据，后者常常支撑诸如推荐和内容审核等众多 Web 服务。然而，原始 Web 数据常包含虚假关联和社会偏见，而神经网络因其倾向于学习数据中存在的偏见而面临此问题。这会强化 Web 服务和 Web 数据中的不公平，导致恶性循环。在图像分类的语境下，当特定类别的大多数图像仅包含同一属性时，网络会为该类别学习偏置属性。因此，对从偏置数据集中训练出公平且无偏的分类器要求处理偏置样本（包含偏置属性的大多数图像）与冲突样本（不包含偏置属性的少数图像）之间的不平衡问题。本文引入 BiasEdit，一个模块化框架，自动从原始数据集中检测偏置属性并编辑这些属性以构建无偏数据集。具体而言，BiasEdit 通过分析视觉-语言表示中的统计依赖性和互信息，检测未知偏置属性，然后利用文本引导的图像编辑生成真实的冲突样本。不同于以往依赖已知偏置属性或人工混合的方法，本方法无需手动标注，能够利用现成的视觉-语言和编辑模型。BiasEdit 解决了 Web 来源视觉 AI 中的根本性挑战，缓解数据引起的偏见，实现即使训练数据完全偏置也能达到最先进的去偏性能。
引用
@article{arxiv.2605.28450,
title = {BiasEdit: A Training-Free Bias-Detect-and-Edit Framework for Learning Fair Visual Classifiers},
author = {Jungwook Seo and Yoonsik Park and Changmin Lee and Sungyong Baik},
journal= {arXiv preprint arXiv:2605.28450},
year = {2026}
}
备注
Accepted to The Web Conference 2026 (formerly WWW) as an Oral presentation