FairPlay: 面向改善 AI 公平性的数据集去偏好协作方法
机器学习
2025-04-24 v1 计算机与社会
人机交互
摘要
公平性在决策中是一个关键问题，尤其是考虑到各种利益相关者对不同且相互冲突的公平性标准的要求。采用从众多视角出发的战略互动提供了一个强制单一公平性标准的替代方案。我们 presented 一个基于 web 的软件应用程序 FairPlay，使多个利益相关者能够协作去偏好数据集。With FairPlay，用户可以在没有普遍达成一致的公平性理论情况下，协商并达到一个双方都可接受的结果。在缺乏此类工具的情况下，由于缺乏系统性的协商过程以及无法修改和观察变化的能力，达成共识将非常具有挑战性。我们进行了用户研究，表明 FairPlay 成功，用户大约在 5 个游戏回合内即可达成共识，说明该应用程序有潜力提高 AI 系统的公平性。
引用
@article{arxiv.2504.16255,
title = {FairPlay: A Collaborative Approach to Mitigate Bias in Datasets for Improved AI Fairness},
author = {Tina Behzad and Mithilesh Kumar Singh and Anthony J. Ripa and Klaus Mueller},
journal= {arXiv preprint arXiv:2504.16255},
year = {2025}
}
备注
Accepted at ACM CSCW 2025. 30 pages total (including references and supplementary material). Contains 10 figures