中文

为公平而归一化:回归机器学习问题中一种简单的公平性归一化技术

机器学习 2024-08-21 v2 计算机与社会

摘要

算法与机器学习(ML)正日益影响日常生活及若干决策过程,其中 ML 因可扩展性或优越性能而具有优势。在此类应用中,公平性至关重要,模型不应基于种族、性别或其他受保护群体而歧视其结果。这对于影响极敏感议题(如面试邀请或累犯预测)的模型尤为关键。与二分类问题相比,回归问题的公平性研究并不常见;因此,我们提出一种基于归一化(FaiReg)的简单而有效的方法,可最小化回归问题中不公平性的影响,尤其是由于标注偏差所导致的不公平性。我们给出了该方法的理论分析,并与两种标准公平性方法(即数据平衡与对抗训练)进行了实证比较。我们还包含一种混合形式(FaiRegH),将所提方法与数据平衡相结合,试图同时应对标注偏差与采样偏差。实验在多模态数据集 First Impressions(FI)上进行,包含多种标签,即大五人格预测与面试筛选分数。结果表明,该方法在削弱不公平性影响方面优于数据平衡,且不像对抗训练那样严重损害原问题的性能。公平性基于相等准确率(EA)与统计 parity(SP)约束进行评估。实验给出了一种可同时增强多个受保护变量公平性的设置。

关键词

引用

@article{arxiv.2202.00993,
  title  = {Normalise for Fairness: A Simple Normalisation Technique for Fairness in Regression Machine Learning Problems},
  author = {Mostafa M. Amin and Björn W. Schuller},
  journal= {arXiv preprint arXiv:2202.00993},
  year   = {2024}
}

备注

Including references and appendices: 17 pages, 3 Figures, 5 Tables