深入探究认知偏差与人工智能偏差

如今，我们将许多决策委托给人工智能（AI），这些AI系统或独立行动，或作为人类伴侣，在医疗保健、金融服务和执法等敏感领域辅助决策。即使经过精心设计以确保公平，AI系统仍因对个人和群体做出误判和歧视性结果而受到严厉批评。大量关于AI算法公平性的工作致力于机器学习流程，这些流程从纯计算的角度处理偏差并量化公平性。然而，持续存在的不公平和不公正的AI结果表明，迫切需要将AI理解为一个社会技术系统，与其设计、开发和部署的环境密不可分。尽管人机协同对于AI的正常运作至关重要，但人类和社会因素对AI偏差的重大影响目前却被忽视。我们通过一种全新的方法来解决这一关键问题，在该方法中，人类认知偏差成为我们AI公平性概述中的核心实体。借鉴认知科学中关于人类启发式方法的定义和分类，我们识别了有害的人类行为如何影响整个AI生命周期，并揭示了从人类到AI偏差的隐藏路径。我们引入了一种新的映射，该映射证明了人类启发式方法到AI偏差的反映关系，并检测了相关的公平性强度和相互依赖性。我们设想，这种方法将有助于在更深入、更以人为中心的案例研究中重新审视AI公平性，揭示隐藏的偏差原因和影响。