FairBatch：用于模型公平性的批次选择方法

训练公平的机器学习模型对于防止人口统计差异至关重要。现有的改善模型公平性的技术需要对数据预处理或模型训练进行较大改动，难以应用于可能已较为复杂的机器学习系统。我们通过双层优化的视角解决该问题。在保持标准训练算法作为内层优化器的同时，我们引入外层优化器，为内层问题赋予一项附加功能：自适应选择小批次大小以改善模型公平性。我们称这一批次选择算法为 FairBatch，它实现了该优化并支持主要的公平性度量：机会均等、均等几率和人口统计 parity。FairBatch 具有显著的实现优势——它不需要对数据预处理或模型训练做任何修改。例如，仅需将 PyTorch 代码中模型训练的批次选择部分替换为一行代码即可使用 FairBatch。我们在合成数据和基准真实数据上的实验表明，FairBatch 能够提供此类功能，同时取得与最先进技术相当（甚至更优）的性能。此外，FairBatch 可通过微调轻松改善任何预训练模型的公平性。它还与用于不同目的（如更快收敛）的现有批次选择技术兼容，从而优雅地实现多重目标。