处理有毒言论检测中的偏差：一项综述

由于其固有的主观性，检测在线有毒内容一直是一项挑战。帖子的生产者和消费者的语境、地理、社会政治气候和背景等因素在决定内容是否可被标记为有毒方面起着关键作用。因此，在生产环境中采用自动化有毒检测模型可能导致其原本旨在帮助的各类群体被边缘化。这引发了研究人员对考察非预期偏差及其缓解方法的兴趣。由于该工作处于起步阶段且涉及多方面，现有文献在术语、技术和发现上杂乱无章。在本文中，我们对现有缓解有毒检测中偏差方法的局限性与挑战进行了系统研究。我们仔细考察了用于评估和缓解有毒言论检测中偏差的已有方法。为检验现有方法的局限性，我们还开展了一项案例研究，引入基于知识的偏差缓解所导致的偏差转移概念。本综述以对关键挑战、研究空白和未来方向的概览作结。尽管减少在线平台上的有毒内容仍是一个活跃的研究领域，但对各类偏差及其缓解策略的系统研究将有助于研究界产出稳健且公平的模型。