有偏二值属性分类器忽略多数类
计算机视觉与模式识别
2024-03-22 v1 人工智能
机器学习
摘要
为了可视化分类器决策所依据的感兴趣区域，已经开发了不同的类激活映射（CAM）方法。然而，所有这些技术仅针对类别分类器，尽管大多数现实世界任务是二值分类。在本文中，我们将基于梯度的 CAM 技术扩展到适用于二值分类器，并可视化二值面部属性分类器的激活区域。当在不平衡数据集上训练一个不平衡的二值分类器时，众所周知，多数类（即具有许多训练样本的类）的预测效果通常远好于具有少量训练实例的少数类。我们在 CelebA 数据集上的实验中验证了这些结果，当时训练一个不平衡分类器以同时提取 40 个面部属性。人们会期望有偏分类器主要学习为多数类提取特征，并且激活的比例能量主要位于图像中属性所在的某些特定区域。然而，我们发现对于多数类样本，规律性激活非常少，而少数类的激活区域似乎大多合理并与我们的预期重叠。这些结果表明，有偏分类器主要依赖对多数类的偏差激活。当通过采用特定属性的类权重在不平衡数据上训练一个平衡分类器时，多数类和少数类的分类效果相似地好，并且对于几乎所有属性都显示出预期的激活。
引用
@article{arxiv.2403.14435,
title = {Biased Binary Attribute Classifiers Ignore the Majority Classes},
author = {Xinyi Zhang and Johanna Sophie Bieri and Manuel Günther},
journal= {arXiv preprint arXiv:2403.14435},
year = {2024}
}