无障碍制图：数据科学用于社会公益的伦理案例研究
计算机与社会
2017-10-20 v1
摘要
在数据科学新兴领域的伦理常常通过关于知名公司或组织失误所导致的可怕后果的警示故事来讨论。我们采取不同的方法，突出伦理如何牵涉到数据科学的日常工作中，聚焦于数据科学家认识、应对并认真回应伦理挑战的实例。本文呈现了一个“数据科学用于社会公益”（DSSG）项目中出现的伦理困境案例研究，该项目旨在改善有限行动能力者的导航。我们描述了这个特定的DSSG团队如何应对那些困境，以及这些应对如何引发更多的困境。尽管此处讨论的案例细节是独特的，但它们所阐明的伦理困境在许多DSSG项目中普遍存在。这些包括：加剧差异的风险；算法问责的棘手性；新技术带来的不断演变的恶作剧机会；任何数据密集型项目核心的主观且充满价值的解释；数据放大或压制特定声音的可能性；隐私侵犯的可能性；以及技术解决方案主义的谬误。基于我们对团队应对这些困境的追踪，我们提炼出可更广泛应用于DSSG项目的伦理数据科学实践的教训。具体而言，该案例经验凸显了以下重要性：1）尽早为伦理思考设定场景；2）认识到伦理决策是一种与数据科学社会公益日常工作中交织浮现的现象；3）将伦理思考视为对优先事项深思熟虑且有意的平衡，而非对与错的二元区分。
引用
@article{arxiv.1710.06882,
title = {Mapping for accessibility: A case study of ethics in data science for social good},
author = {Anissa Tanweer and Nicholas Bolten and Margaret Drouhard and Jess Hamilton and Anat Caspi and Brittany Fiore-Gartland and Kaicheng Tan},
journal= {arXiv preprint arXiv:1710.06882},
year = {2017}
}
备注
Presented at the Data For Good Exchange 2017