克服 AI 融合系统开发与部署中的想象力失败

NeurIPS 2020 要求研究论文投稿包含关于“潜在的恶意使用与失败后果”的影响声明。然而，作为研究人员、从业者和系统设计者，预见风险的一个关键挑战在于克服 Clarke (1962) 所称的“想象力失败”。关于计算系统中偏差、公平性与透明度的日益增长的研究旨在揭示并减轻危害，因而可有助于反思特定技术工作可能带来的负面效应。当前主流的计算危害概念——狭义地理解为分配性危害或代表性危害——并未充分捕捉横跨广泛 AI 融合系统的开放性、情境依赖性与不可观测性的危害本质。现有文献聚焦于一小部分危害实例以论证算法修补，忽视了可能危害的更宽范围及其影响不同利益相关者的方式。系统可供性也可能以不可预测的方式加剧危害，因为它们决定了利益相关者（包括非用户）对系统输出的使用与交互的控制。为有效协助预见有害用途，我们认为危害框架必须具备情境感知，并考虑更广泛的潜在利益相关者、系统可供性，以及用于评估最广义危害的可行代理指标。