权力归于人民？参与式人工智能的机遇与挑战
计算机与社会
2022-09-19 v1
摘要
人工智能（AI）与机器学习（ML）的参与式方法正获得越来越多的关注：这种关注的增加部分源于这样一种观点，即参与为包容、公平、稳健、负责和可信的 AI 打开了大门。除其他益处外，参与式方法对于理解和充分表达历史上被边缘化群体的需求、愿望和观点至关重要。然而，目前对于何为有意义的参与以及期望其发挥什么作用仍缺乏清晰认识。在本文中，我们首先回顾了置于历史语境中的参与式方法，以及 AI 与 ML 流程中的参与式方法和实践。随后我们介绍了三个参与式 AI 的案例研究。参与具有带来有益、解放和赋能的技术设计、开发与部署的潜力，同时也面临诸如被收编以及与其他活动混淆等风险。我们梳理了这些局限与担忧，并主张随着参与式 AI/ML 变得流行，对该术语的语境化与细致理解，以及考量参与活动的主要受益者应当是哪些人，构成了实现参与所带来的益处与机遇的关键因素。
引用
@article{arxiv.2209.07572,
title = {Power to the People? Opportunities and Challenges for Participatory AI},
author = {Abeba Birhane and William Isaac and Vinodkumar Prabhakaran and Mark Díaz and Madeleine Clare Elish and Iason Gabriel and Shakir Mohamed},
journal= {arXiv preprint arXiv:2209.07572},
year = {2022}
}
备注
To appear in the proceeding of EAAMO 2022