展望社区：一种面向人工智能向善的参与式方法
计算机与社会
2021-06-21 v2 人工智能
摘要
人工智能（AI）向善研究预设了某种社会善的定义，但潜在的定义鲜有被提出，也从未达成一致。关于 AI 向善研究应当“为了什么”的规范性问题未被细致阐述，或常以功利主义视角处理，该视角优先满足多数群体的需求而非那些历史上被边缘化者的需求，从而无视不公与不平等的现实。我们认为，AI 向善应由受 AI 系统影响的社区来评估，并以能力取向（capabilities approach）为指导——这是一种衡量不同政策改善人类福利公平之能力的框架。此外，我们阐明 AI 研究如何通过扩展和均衡能力来催化社会进步。我们展示了能力取向如何与我们引入的称为 PACT 的框架中用于 AI 向善研究设计与实施的参与式方法相一致，在该框架中，受影响的社区成员应作为合作伙伴被纳入，且其意见应在整个项目中被优先考量。最后，我们提供了一组不完备的指导性问题，用于以引发并尊重社区自身对社会善定义的方式开展此类参与式 AI 研究。
引用
@article{arxiv.2105.01774,
title = {Envisioning Communities: A Participatory Approach Towards AI for Social Good},
author = {Elizabeth Bondi and Lily Xu and Diana Acosta-Navas and Jackson A. Killian},
journal= {arXiv preprint arXiv:2105.01774},
year = {2021}
}
备注
Bondi and Xu Equal contribution. 12 pages, 5 figures. Accepted at the Fourth AAAI/ACM Conference on Artificial Intelligence, Ethics, and Society (AIES-21)