面向视觉识别公平性：偏差缓解的有效策略

计算机视觉模型通过从训练数据中捕获相关统计信息来学习执行任务。已有研究表明，当模型被训练用于看似无关的任务（如活动识别或图像描述生成）时，会学习到虚假的年龄、性别和种族相关性。已有多种缓解技术被提出，以防止模型利用或学习此类偏差。然而，这些技术之间鲜有系统性比较。我们设计了一个简单但出奇有效的视觉识别基准用于研究偏差缓解。利用该基准，我们对广泛的技术进行了透彻分析。我们指出了流行的用于偏差缓解的对抗训练方法的缺陷，提出了一种简单但同样有效的替代方案，以替代 Zhao 等人提出的推理时 Reducing Bias Amplification 方法，并设计了一种独立于领域的训练技术，其性能优于所有其他方法。最后，我们在 CelebA 数据集的属性分类任务上验证了我们的发现，其中属性存在已知与图像中人物的性别相关，并证明所提出的技术在缓解现实世界性别偏差方面是有效的。