ESR：人工智能研究的伦理与社会审查
计算机与社会
2021-07-13 v2
摘要
人工智能（AI）研究因其对社会现实与潜在的影响而屡遭批评，而我们缺乏充分的制度性回应来应对此类批评及其所反映的责任。AI 研究常处于现有反馈机制（如机构审查委员会（Institutional Review Board, IRB））的管辖范围之外，后者旨在评估对人类受试者的伤害而非对人类社会的伤害。为此，我们开发了伦理与社会审查委员会（Ethics and Society Review board, ESR），一个与研究者协作以减轻 AI 研究负面伦理与社会影响的反馈小组。ESR 的核心思路是作为资助的前提条件：研究者在我们大学的主要 AI 资助项目中无法获得拨款，除非其针对提案完成 ESR 流程。本文中，我们描述了 ESR 在首年横跨 41 份提案的设计与运行情况。我们分析了这些提案的 ESR 汇总反馈，发现小组最常指出的问题包括对少数群体的伤害、研究计划中多元利益相关者的纳入、双重用途，以及数据中的代表性。对与 ESR 互动的研究者进行的调查与访谈发现，58% 认为其影响了研究项目设计，100% 愿意继续将未来项目提交 ESR，并且他们寻求更多用于推理伦理与社会问题的支撑框架。
引用
@article{arxiv.2106.11521,
title = {ESR: Ethics and Society Review of Artificial Intelligence Research},
author = {Michael S. Bernstein and Margaret Levi and David Magnus and Betsy Rajala and Debra Satz and Charla Waeiss},
journal= {arXiv preprint arXiv:2106.11521},
year = {2021}
}
备注
Revision: credit to the Microsoft Research Ethics Review Program