FairCeptron：一种衡量人类对算法公平性感知的框架
计算机与社会
2021-06-24 v1 人工智能
摘要
算法公平性的度量通常未考虑人类对于公平性的感知，而后者在不同社会人口统计群体与利益相关者间可能存在显著差异。FairCeptron 框架是一种研究算法决策（如排序或分类）中公平性感知的方法。它支持（i）研究人类对公平性的感知，以及（ii）将这些人类感知与算法公平性度量进行比较。该框架包含公平性场景生成、公平性感知引出与公平性感知分析。我们通过将 FairCeptron 框架应用于一个假设的大学录取情境来演示它，其中我们收集了在存在少数群体情况下人类对公平性的感知。FairCeptron 框架的实现已公开可用，并且可轻易调整以研究其他应用情境中算法公平性的感知。我们希望我们的工作为在算法决策系统设计过程中提升人类公平性感知研究的作用铺平道路。
引用
@article{arxiv.2102.04119,
title = {The FairCeptron: A Framework for Measuring Human Perceptions of Algorithmic Fairness},
author = {Georg Ahnert and Ivan Smirnov and Florian Lemmerich and Claudia Wagner and Markus Strohmaier},
journal= {arXiv preprint arXiv:2102.04119},
year = {2021}
}
备注
For source code of the implementation, see https://github.com/cssh-rwth/fairceptron