FairSight:用于决策公平性的可视化分析系统
人机交互
2019-12-03 v2 计算机与社会
机器学习
摘要
与个体相关的数据驱动决策已日益普及,但近期研究提出了关于潜在歧视的问题。对此,研究人员已努力提出并实现公平性度量与算法,但这些努力尚未转化为数据驱动决策的现实实践。因此,仍迫切需要一个可行工具以促进公平决策。我们提出了 FairSight,一个应对该需求的可视化分析系统;其旨在通过识别所需行动——理解、度量、诊断和缓解偏差——来实现排序决策中不同公平性概念,这些行动共同导向更公平的决策。通过案例研究和用户研究,我们证明了系统中提出的可视化分析与诊断模块在理解公平性感知决策流水线及获得更公平结果方面是有效的。
引用
@article{arxiv.1908.00176,
title = {FairSight: Visual Analytics for Fairness in Decision Making},
author = {Yongsu Ahn and Yu-Ru Lin},
journal= {arXiv preprint arXiv:1908.00176},
year = {2019}
}
备注
10 pages, 8 figures, IEEE VIS (VAST) 2019