机器学习软件中公平性 API 的应用与挑战
机器学习
2025-08-25 v1 软件工程
摘要
机器学习软件系统频繁用于我们日常生活中。其中一些系统被用于various敏感环境中做出改变生活的决定。因此，确保这些 AI/ML 系统对任何特定群体或人口不会做出任何歧视性决定至关重要。在这一背景下，正在开发和使用不同的偏见检测和缓解开源软件库（即 API 库）。本文我们进行了一项定性研究，以了解这些开源公平性 API 在野外使用的情况、使用方式以及开发者在开发和采用这些库时面临的挑战。我们分析了 204 个 GitHub 仓库（来自 1885 个候选仓库的列表），这些仓库使用了 13 个旨在解决 ML 软件中偏见的 API。我们发现这些 API 用于两个主要目的（即学习和解决实际问题），针对 17 个独特用例。我们的研究表明，开发者对偏见检测和缓解并不熟悉；他们面临许多故障排查问题，经常询问意见和资源。我们的发现对未来的 bias-related 软件工程研究以及指导教育者开发更 state-of-the-art 课程具有重要意义。
引用
@article{arxiv.2508.16377,
title = {Applications and Challenges of Fairness APIs in Machine Learning Software},
author = {Ajoy Das and Gias Uddin and Shaiful Chowdhury and Mostafijur Rahman Akhond and Hadi Hemmati},
journal= {arXiv preprint arXiv:2508.16377},
year = {2025}
}