什么使公平性工具项目在开源中可持续？
软件工程
2025-05-16 v1 人机交互
摘要
随着社会日益依赖人工智能，规避风险和伤害的需求至关重要。作为回应，研究人员和从业者开发了用于检测和减少不期望偏差的工具，通常被称为公平性工具。其中许多工具可免费公开使用和改编。虽然这类工具日益普及的前景令人鼓舞，但除了AI Fairness 360和Fairlearn等知名示例之外，人们对更广泛的格局知之甚少。由于公平性是一个持续关注的问题，这些工具必须为长期可持续性而构建。以一组现有的公平性工具为参考，我们系统地搜索了GitHub并识别出50个相关项目。然后我们分析了它们仓库的各个方面，以评估社区参与度和持续维护的程度。我们的研究结果表明对这些工具有多种形式的参与，表明对开源开发有强有力的支持。然而，我们也发现这些工具的维护程度存在显著差异。值得注意的是，53%的公平性项目在头三年内变得不活跃。通过审视公平性工具的可持续性，我们旨在促进这一关键领域的更稳定和增长。
引用
@article{arxiv.2505.09802,
title = {What Makes a Fairness Tool Project Sustainable in Open Source?},
author = {Sadia Afrin Mim and Fatemeh Vares and Andrew Meenly and Brittany Johnson},
journal= {arXiv preprint arXiv:2505.09802},
year = {2025}
}