基于因果建模的多类 CNN 分类算法偏差缓解
机器学习
2025-01-15 v1 计算机视觉与模式识别
摘要
本研究描述了将因果建模应用于检测和缓解多类分类问题中算法偏差的程序。数据来源于 FairFace 数据集，补充了由 DeepFace 预训练模型生成的情感标签。开发了自定义卷积神经网络 (CNN)，包含四个卷积模块，随后是全连接层和 dropout 层以缓解过拟合。在 CNN 模型的分类中识别出性别偏差：女性更可能被分类为“快乐”或“悲伤”，而男性更可能被分类为“中性”。为解决此问题，应用了一对多 (OvA) 技术。为每个情感类别构建了因果模型，以调整 CNN 模型的预测类别概率。随后选择概率最高的类别作为最终分类结果。产生的去偏后分类在所有类别中显示出增强的性别公平性，对总体准确率的影响微乎其微——甚至可能轻微提升。这一研究表明，算法公平性和准确性并非必然是权衡关系。本研究的所有数据和代码均公开可供下载。
引用
@article{arxiv.2501.07885,
title = {Mitigating Algorithmic Bias in Multiclass CNN Classifications Using Causal Modeling},
author = {Min Sik Byun and Wendy Wan Yee Hui and Wai Kwong Lau},
journal= {arXiv preprint arXiv:2501.07885},
year = {2025}
}
备注
7 pages; 6 figures