司法系统中的性别偏见

我们分析了670万份判例法文档,以确定司法系统中是否存在性别偏见。我们发现,当前NLP中的偏见检测方法不足以判定我们判例法数据库中的性别偏见,并提出了一种替代方法。我们表明,现有算法不一致的结果源于先前研究对偏见本身的定义。偏见检测算法依赖成组词汇来代表偏见(例如,用'salary'、'job'和'boss'表示就业作为文本中针对女性的潜在偏见主题)。然而,构建这些词汇组的方法存在若干弱点,主要是词表基于研究者自身的直觉。我们提出两种自动化构建代表偏见的词表的新方法。我们发现,我们的方法优于当前的NLP偏见检测方法。我们的研究提升了NLP技术检测偏见的能力,并凸显了有影响力的判例法中存在的性别偏见。为检验我们的NLP偏见检测方法的性能,我们将判例法中的偏见结果对美国人口普查中过去100年女性劳动力参与数据进行回归。