作为不对称性的 AI 偏见：指导实践综述

对 AI 中偏见的理解目前正经历一场革命。最初被理解为错误或缺陷的偏见，越来越被认为是 AI 系统不可或缺的组成部分，有时甚至比偏见较少的替代方案更可取。在本文中，我们回顾了这种理解转变的原因，并针对两个问题提供了新指导：首先，符合这一新理解，我们应如何思考和衡量 AI 系统中的偏见？其次，我们应该接受甚至放大 AI 系统中的哪些偏见，最小化或消除哪些偏见，以及为什么？我们认为，回答这两个问题的关键是将偏见理解为“对称性标准的违反”（遵循 Kelly 的观点）。我们区分了 AI 系统中三种主要的不对称类型——误差偏见、不平等偏见和过程偏见——并强调了在 AI 开发和应用流程中，每种类型的偏见可能是有利的、有害的或不可避免的环节。