OxonFair：一个灵活的算法公平性工具包
计算机与社会
2024-11-06 v2 人工智能
机器学习
摘要
我们推出了 OxonFair，一个用于在二分类中强制实现公平性的新型开源工具包。与现有工具包相比：（i）我们支持 NLP 和计算机视觉分类以及标准的表格问题。（ii）我们支持在验证数据上强制实现公平性，这使我们能够应对各种过拟合挑战。（iii）我们的方法可以优化任何基于真阳性、假阳性、假阴性和真阴性的度量。这使得它易于扩展，并且比现有工具包更具表现力。它支持两篇流行综述文章中所有 9 种和所有 10 种基于决策的群体度量。（iv）我们在公平性约束的同时联合优化性能目标。这在强制实现公平性的同时最大限度地减少了性能下降，甚至能改善调参不当的不公平基线的性能。OxonFair 兼容标准的机器学习工具包，包括 sklearn、Autogluon 和 PyTorch，并可在 https://github.com/oxfordinternetinstitute/oxonfair 获取。
引用
@article{arxiv.2407.13710,
title = {OxonFair: A Flexible Toolkit for Algorithmic Fairness},
author = {Eoin Delaney and Zihao Fu and Sandra Wachter and Brent Mittelstadt and Chris Russell},
journal= {arXiv preprint arXiv:2407.13710},
year = {2024}
}
备注
Accepted at NeurIPS 2024