机器学习中歧视的可视分析
人机交互
2023-02-21 v2 机器学习
摘要
在犯罪预测与大学录取等关键应用中，自动化决策的使用日益增长，引发了关于机器学习公平性的质疑。我们如何判断不同的处理是合理的还是歧视性的？本文从可视分析视角考察机器学习中的歧视，并提出一种交互式可视化工具DiscriLens以支持更全面的分析。为揭示算法歧视的详细信息，DiscriLens基于因果建模与分类规则挖掘识别一组潜在歧视性项集。通过结合扩展欧拉图与基于矩阵的 Visualization，我们开发了一种新颖的集合可视化以促进对歧视性项集的探索与解释。一项用户研究表明，用户能快速且准确地解读DiscriLens中视觉编码的信息。用例证明DiscriLens在为理解和减少算法歧视提供信息性指导方面行之有效。
引用
@article{arxiv.2007.15182,
title = {Visual Analysis of Discrimination in Machine Learning},
author = {Qianwen Wang and Zhenhua Xu and Zhutian Chen and Yong Wang and Shixia Liu and Huamin Qu},
journal= {arXiv preprint arXiv:2007.15182},
year = {2023}
}