通过素描化改善图像分类中的公平性
计算机视觉与模式识别
2022-11-02 v1 机器学习
摘要
公平性是可信且以人为中心的人工智能（AI）系统的基本要求。然而，当训练数据来自具有不同属性（如颜色、性别、年龄）的不同子群体时，深度神经网络（DNNs）往往作出不公平预测，导致有偏的 DNN 预测。我们注意到此类困扰现象常由数据本身引起，即偏置信息随有用信息（如类别信息、语义信息）一同编码进 DNN。因此，我们提出使用素描化来处理该现象。在不损失数据效用的前提下，我们探索能在维持目标分类有用语义信息的同时滤除无用偏置信息的图像到素描化方法。此外，我们设计了一种公平损失以进一步提升模型公平性。我们在通用场景数据集与医疗场景数据集上通过大量实验评估了我们的方法。结果表明，所需的图像到素描化方法改善了模型公平性，并在最先进（state-of-the-art, SOTA）方法中取得满意结果。
引用
@article{arxiv.2211.00168,
title = {Improving Fairness in Image Classification via Sketching},
author = {Ruichen Yao and Ziteng Cui and Xiaoxiao Li and Lin Gu},
journal= {arXiv preprint arXiv:2211.00168},
year = {2022}
}
备注
8 pages, 2 figures. To appear in 2022 Trustworthy and Socially Responsible Machine Learning (TSRML 2022) co-located with NeurIPS 2022