BiasGuard：在机器学习生产系统中守护公平性
机器学习
2025-01-09 v1 人工智能
计算机与社会
摘要
随着机器学习（ML）系统日益影响招聘、金融风险评估和刑事司法等关键领域，确保公平性的紧迫性因潜在的负面影响而日益增加。虽然大量 ML 公平性研究聚焦于增强训练数据和过程，但针对已部署系统输出的公平性研究受到关注不足。本文引入一种新颖方法‘BiasGuard’，旨在作为生产 ML 系统的公平性守望台。BiasGuard 利用由 Conditional Generative Adversarial Network（CTGAN）支持的 Test-Time Augmentation（TTA），合成以反向受保护属性值为条件的数据样本，从而在不同群体之间促进公平的结果。该方法旨在在不重新训练的情况下，为特权群体和非特权群体提供平等机会，同时显著提升已部署系统的公平性指标。我们的全面实验分析在不同数据集上表明，BiasGuard 在公平性提升方面提升了 31%，仅将准确率降低 0.09%。此外，BiasGuard 在改善公平性方面超越了现有的后处理方法， positioning 其为在不可行时重新训练模型的有效工具。
引用
@article{arxiv.2501.04142,
title = {BiasGuard: Guardrailing Fairness in Machine Learning Production Systems},
author = {Nurit Cohen-Inger and Seffi Cohen and Neomi Rabaev and Lior Rokach and Bracha Shapira},
journal= {arXiv preprint arXiv:2501.04142},
year = {2025}
}