迈向公平的 AI 与机器人敏捷研发

机器学习 (ML) 与“人工智能” (“AI”) 方法往往会复制并放大现有的偏见与成见，搭载 AI 的机器人亦不例外。例如，配备面部识别的机器人未能将黑人女性识别为人类，而另一些机器人仅凭外貌便将黑人男性等人群归类为罪犯。“模块化文化”意味着在“AI 供应链”的各个职位中，危害被视为“超出范围”或他人的责任。事故已足够频繁（incidentdatabase.ai 列出了 2000 多个案例），表明极少有组织能够完全尊重人们的权利；实现其声称的公平、多元与包容 (EDI 或 DEI) 目标；或识别并随后解决其组织与制品中的此类失败。我们提出了一个框架，通过调整广泛实践的研发 (R&D) 项目管理方法，以构建组织的公平能力并更好地整合已知的循证最佳实践。我们描述了项目团队如何组织并实施最有前景的实践、技能组合、组织文化与方法，以便在基于权利的公平、公平性、问责制和伦理问题通常危害较小且更易缓解时尽早检测并解决它们；随后监控不可预见的事故，以自适应且建设性地加以应对。我们的主要示例调整了基于 Scrum 的敏捷开发流程，这是组织研发团队最广泛采用的方法之一。我们还讨论了所提框架的局限性及未来研究方向。