通过更广泛影响要求将伦理制度化于AI中
计算机与社会
2021-06-22 v1 人工智能
摘要
将原则转化为实践是人工智能（AI）治理最紧迫的挑战之一。本文中，我们反思全球最大AI会议之一的一项新颖治理举措。2020年，神经信息处理系统大会（NeurIPS）要求投稿作者包含关于其研究更广泛社会影响的陈述。借鉴类似治理举措（包括机构审查委员会（IRB）与资助申请中的影响要求）的洞见，我们考察此类举措的风险、挑战与潜在益处。在挑战中，我们列举了缺乏公认最佳实践与程序透明度、研究者机会成本、制度与社会压力、认知偏差，以及任务固有的困难性。另一方面，潜在益处包括改进影响的预期与识别、与政策和治理专家更好的沟通，以及围绕负责任研究规范的普遍强化。为最大化成功机会，我们建议采取措施增加透明度、改进指导、创设真诚参与流程的激励，并促进公众对该要求优点与未来的审议。或许本分析最重要的贡献在于，我们能由此获得关于有效社区治理及更广泛的AI研究界角色与责任的洞见。
引用
@article{arxiv.2106.11039,
title = {Institutionalising Ethics in AI through Broader Impact Requirements},
author = {Carina Prunkl and Carolyn Ashurst and Markus Anderljung and Helena Webb and Jan Leike and Allan Dafoe},
journal= {arXiv preprint arXiv:2106.11039},
year = {2021}
}