大数据、数据科学与公民权利

数据分析技术的进步带来了公民权利方面的隐患。数据驱动与算法决策日益决定着企业如何向消费者定向投放广告，警察部门如何监控个人或群体，银行如何决定谁获得贷款而谁不能，雇主如何招聘，学院和大学如何做出录取与助学金决策，以及更多方面。随着数据驱动决策日益影响我们生活的方方面面，迫切需要确保它们不会成为歧视的工具、平等的障碍、社会正义的威胁以及不公的根源。在本文中，我们主张制定一个具体的研究议程以应对这些问题，包含五个重点领域： 确定模型与建模过程是否表现出不可接受的偏见； 将公平意识融入机器学习方法； 提高数据与模型驱动决策的透明度与可控性； 超越算法本身，在问题表述与建模过程中做出的无数人类决策中寻找偏见与不公的根源； 支持做好所有这些工作所需的跨学科研究。