FAE：一种公平性感知集成框架

基于大数据和机器学习（ML）算法的自动化决策可能导致针对基于性别、种族、性取向等个人数据定义的某些受保护群体的歧视性决策。这类旨在发现大数据中模式的算法不仅可能捕捉训练数据中任何已编码的社会偏见，更糟的是，它们可能强化此类偏见从而导致更严重的歧视。迄今提出的大多数公平性感知机器学习方法仅关注机器学习过程的预、中或后处理步骤，即分别为输入数据、学习算法或派生模型。然而，公平性问题不能孤立于 ML 过程的单一步骤。相反，歧视往往是大数据与算法之间复杂交互的结果，因此需要更整体性的方法。所提出的 FAE（Fairness-Aware Ensemble，公平性感知集成）框架结合了数据分析过程预处理和后处理步骤中与公平性相关的干预。在预处理步骤中，我们通过生成平衡训练样本来解决受保护群体代表性不足（群体不平衡）和类不平衡问题。在后处理步骤中，我们通过沿公平性方向平移决策边界来解决类重叠问题。