性能、不透明性、后果与假设：负责任规划机器学习方案的简单问题

数据革命产生了对数据驱动方案的巨大需求。这一需求推动了越来越多面向有志数据科学家的易用工具和培训，使得预测模型得以快速构建。如今，数学毁灭性武器（weapons of math destruction）可以在缺乏详细规划和验证的情况下被轻易构建与部署。这迅速扩展了 AI 失败案例的清单，即导致财务损失甚至违背平等、自由与正义等民主价值观的部署。模型开发周围规划、规则与标准的缺失导致了 AI 的无政府化（anarchisation of AI）。该问题以不同名称被报道，如验证债务、可复现性危机以及缺乏可解释性。对 AI 失败案例的事后分析常揭示出在模型开发或数据获取早期阶段所犯的错误。因此，与其补救部署有害模型的后果，我们应在最早阶段通过更关注初始规划来预防它们。在本文中，我们提出一个快速简单的框架以支持 AI 方案的规划。POCA 框架基于四大支柱：性能（Performance）、不透明性（Opaqueness）、后果（Consequences）与假设（Assumptions）。它有助于在任何模型构建和任何数据收集之前，为 AI 方案设定期望并规划约束。借助 POCA 方法，可为模型构建过程定义初步需求，从而尽早识别甚至避免代价高昂的模型设定错误。AI 研究人员、产品负责人与业务分析师可在构建 AI 方案的初始阶段使用此框架。