用于学习公平模型的 GroupMixNorm 层
机器学习
2023-12-20 v1 计算机与社会
摘要
近期研究揭示了自动预测算法对基于特定受保护属性（如性别、种族、年龄段等）定义的群体存在歧视行为。当部署于真实场景时，此类技术可能表现出有偏预测，导致不公平结果。近期文献中出现了缓解此类偏见行为的算法，主要通过在损失函数中添加公平性度量（如人口统计平等或均等赔率）的凸替代项，这些度量通常不易估计。本研究提出了一种新颖的基于处理过程中的 GroupMixNorm 层，用于缓解深度学习模型中的偏见。GroupMixNorm 层基于受保护属性，概率性地混合不同群体间样本的组级特征统计量。所提方法在多个公平性度量上有所改善，且对整体准确率影响极小。在基准表格与图像数据集上的分析证明了所提方法在实现最先进性能方面的有效性。此外，实验分析还表明 GroupMixNorm 层对推理期间出现的新受保护属性具有鲁棒性，并具备消除预训练网络偏见的能力。
关键词
引用
@article{arxiv.2312.11969,
title = {GroupMixNorm Layer for Learning Fair Models},
author = {Anubha Pandey and Aditi Rai and Maneet Singh and Deepak Bhatt and Tanmoy Bhowmik},
journal= {arXiv preprint arXiv:2312.11969},
year = {2023}
}
备注
12 pages, 6 figures, Pacific-Asia Conference on Knowledge Discovery and Data Mining (PAKDD) 2023