探索开源项目中的公平性干预措施
软件工程
2025-07-10 v1
摘要
有偏见的机器学习(ML)模型的部署已在刑事司法和医疗保健等关键领域造成了不利影响。为了应对这些挑战，人们开发了多种多样的机器学习公平性干预措施，旨在减轻偏见并促进创建更公平的模型。尽管这些干预措施日益增多，但它们在现实世界应用中的采用仍然有限，许多从业者并不知道它们的存在。为了弥补这一差距，我们系统地识别并编制了一个包含62个开源公平性干预措施的数据集，并识别了活跃的干预措施。我们对其规格和特性进行了深入分析，以揭示可能影响从业者偏好的考量因素，并识别开源生态系统中积极维护的软件干预措施。我们的研究结果表明，这些干预措施中有32%在过去一年内得到了积极维护，其中50%提供了偏差检测和缓解两种能力，主要是在处理过程中。
引用
@article{arxiv.2507.07026,
title = {Exploring Fairness Interventions in Open Source Projects},
author = {Sadia Afrin Mim and Fatema Tuz Zohra and Justin Smith and Brittany Johnson},
journal= {arXiv preprint arXiv:2507.07026},
year = {2025}
}
备注
Revised version accepted at the 1st International Workshop on Fairness in Software Systems(SANER 2025)