FairVis：用于发现机器学习中交叉偏见的视觉分析系统
机器学习
2021-10-28 v4 机器学习
摘要
机器学习日益增长的能力与可及性已导致其应用于许多现实世界领域及关于人的数据。尽管算法系统可能带来益处，模型仍可能将隐性与显性社会偏见反映、注入或加剧到其输出中，使某些人口子群体处于不利地位。由于公平性的众多定义以及大量潜在受影响的子群体，发现机器学习模型引入了哪些偏见是一大挑战。我们提出 FairVis，一个混合主动视觉分析系统，它集成了一种新颖的子群发现技术，供用户审计机器学习模型的公平性。通过 FairVis，用户可应用领域知识生成并调查已知子群，并探索被建议的及相似的子群。FairVis 的联动视图使用户能够探索子群表现的高层概览，进而下钻到对特定子群的详细调查。我们展示了 FairVis 如何帮助发现用于预测收入与累犯的两个真实数据集中的偏见。作为一个致力于发现机器学习中偏见的视觉分析系统，FairVis 展示了交互式可视化如何帮助数据科学家与公众理解并创建更公平的算法系统。
引用
@article{arxiv.1904.05419,
title = {FairVis: Visual Analytics for Discovering Intersectional Bias in Machine Learning},
author = {Ángel Alexander Cabrera and Will Epperson and Fred Hohman and Minsuk Kahng and Jamie Morgenstern and Duen Horng Chau},
journal= {arXiv preprint arXiv:1904.05419},
year = {2021}
}
备注
Accepted as a VAST conference paper to IEEE VIS'19