修复公平性，勿损准确性：基于AutoML的性能感知公平性修复
软件工程
2023-08-30 v3 机器学习
摘要
机器学习（ML）正日益用于关键决策软件，但相关事件引发了人们对ML预测公平性的质疑。为解决此问题，需要新工具和方法以减轻基于ML的软件中的偏差。既往研究提出的偏差缓解算法仅在特定情境下有效，且常导致准确性下降。我们提出的解决方案是一种利用自动化机器学习（AutoML）技术缓解偏差的新方法。我们的方法包含两个关键创新：一种新颖的优化函数和公平性感知搜索空间。通过改进AutoML的默认优化函数并纳入公平性目标，我们能够在几乎不损失准确性的情况下缓解偏差。此外，我们提出一种AutoML的公平性感知搜索空间剪枝方法，以降低计算成本和修复时间。我们的方法构建于最先进的Auto-Sklearn工具之上，旨在减少现实场景中的偏差。为证明方法有效性，我们在四个公平性问题和16个不同ML模型上评估了该方法，结果显示相较基线及现有偏差缓解技术有显著改进。我们的方法Fair-AutoML成功修复了64个缺陷案例中的60个，而现有偏差缓解技术最多仅修复64个中的44个。
引用
@article{arxiv.2306.09297,
title = {Fix Fairness, Don't Ruin Accuracy: Performance Aware Fairness Repair using AutoML},
author = {Giang Nguyen and Sumon Biswas and Hridesh Rajan},
journal= {arXiv preprint arXiv:2306.09297},
year = {2023}
}
备注
In Proceedings of The 31st ACM Joint European Software Engineering Conference and Symposium on the Foundations of Software Engineering (ESEC/FSE 2023)