学习解毒数据以应对个体不公平性

公平性对于部署在高风险应用中的机器学习系统至关重要。在所有公平性概念中，源自“相似个体应被相似对待”共识的个体公平性，是描述个体案例公平对待的重要概念。以往研究通常将在样本上扰动敏感属性时的预测不变性刻画为个体公平性，并通过分布鲁棒优化（DRO）范式求解。然而，DRO中沿覆盖敏感信息方向的此类对抗扰动未考虑固有特征相关性或内在数据约束，因此可能误导模型在流形外和不真实样本上优化。鉴于此缺陷，本文提出学习并生成近似遵循数据分布的解毒数据以补救个体不公平性。这些生成的流形上解毒数据可通过通用优化过程与原始训练数据一同使用，形成针对个体不公平性的纯预处理方法，也可很好地适配处理中的DRO范式。通过在多个表格数据集上的大量实验，我们证明与基线相比，我们的方法以最小或零预测效用代价抵御个体不公平性。