仇恨的未见目标——仇恨交流数据集的系统综述

基于机器学习 (ML) 的内容审核工具对于保持在线空间免受仇恨交流至关重要。然而，ML 工具的能力仅取决于其训练所用数据的质量。尽管越来越多的证据表明，这些工具在检测针对特定身份的仇恨交流时表现不佳，并可能对其产生歧视，但我们对这种偏见的来源却知之甚少。为了填补这一空白，我们对过去十年中引入的用于自动检测仇恨交流的数据集进行了系统综述，并从数据集所体现的身份角度剖析了其质量：包括数据整理者所关注的仇恨交流目标身份，以及无意中包含在数据集中的身份。总体而言，我们发现所选目标身份的表征存在偏差，且研究所概念化并最终纳入数据集的目标之间存在不匹配。然而，通过将这些发现置于数据集的源语言和发源地的背景下，我们突显了该研究领域向拓宽与多元化发展的积极趋势。