减少社会技术系统中面向社会效益的学习算法的歧视
机器学习
2020-12-08 v2 计算机与社会
摘要
城市中的社会技术系统现已配备机器学习算法,希望通过建模与预测趋势来提升效率与功能。机器学习算法已应用于这些领域以应对诸如平衡城市内自行车分布、识别网约车司机需求热点等挑战。然而,应用于社会技术系统挑战的这些算法,由于数据集中先前的偏差或来自边缘化社区数据的缺失,加剧了社会不平等。本文中,我将阐述城市中的智能出行倡议如何利用机器学习算法应对挑战。我也将阐述这些算法如何无意中对社会经济地位等特征产生歧视,以凸显算法公平性的重要。以宾夕法尼亚州匹兹堡的共享单车项目为例,我将就如何通过贝叶斯优化(Bayesian Optimization)从流程中消除歧视提出一种立场。
引用
@article{arxiv.2011.13988,
title = {Reducing Discrimination in Learning Algorithms for Social Good in Sociotechnical Systems},
author = {Katelyn Morrison},
journal= {arXiv preprint arXiv:2011.13988},
year = {2020}
}
备注
3 page position paper accepted to the AI for Social Good workshop at The International Joint Conference on Artificial Intelligence (IJCAI). To be presented on January 8th, 2021