公平干预的操作视角：在何处及如何干预
机器学习
2023-03-27 v2
摘要
随着基于AI的决策系统日益普及，其成功落地需要在多个诉求之间取得平衡：预测性能、群体间差异、敏感群体属性（如种族）的保护以及工程成本。我们提出了一个整体框架，用于针对上述诉求评估和定位公平干预。实际考量的两个关键点是干预引入的“位置”（预处理、中处理、后处理）与“方式”（以何种方式使用敏感群体数据）。我们通过一个关于预测均等的案例研究来展示该框架。其中，我们首先提出了一种新方法，通过分布鲁棒优化在不使用推理时群体数据的情况下实现预测均等公平。随后，我们在一项基准研究中展示了这些方法的有效性，该基准涵盖两大主要模型类型（XGBoost 与神经网络）、十个数据集以及超过二十种独特方法，近400种变体。由实证研究所得出的方法学见解为以公平为核心关切的ML工作流实际设计提供了指导。我们发现，不使用群体数据难以实现预测均等，并且尽管我们开发的分布鲁棒方法在模型训练（而非推理）阶段需要群体数据，其仍带来了显著的帕累托改进。此外，普通XGBoost模型常在帕累托意义上优于带公平干预的神经网络，凸显了模型归纳偏置的重要性。
引用
@article{arxiv.2302.01574,
title = {An Operational Perspective to Fairness Interventions: Where and How to Intervene},
author = {Brian Hsu and Xiaotong Chen and Ying Han and Hongseok Namkoong and Kinjal Basu},
journal= {arXiv preprint arXiv:2302.01574},
year = {2023}
}