超越伤害：对 NLP 研究如何应对歧视问题的批判性综述
计算机与社会
2025-08-07 v1
摘要
如何在 NLP 技术语境下避免歧视是该领域面临的主要挑战之一。我们提出，对该问题采用一种不同且更有充分依据的界定方式，有助于找到更具建设性的应对方法。在本文的第一部分，我们报告了一项案例研究：对 2022 年 ACL 论文集录中关于 NLP 系统歧视行为的论文进行定性综述。我们发现该领域 (i) 依然高度侧重于对算法歧视的技术性修复，且 (ii) 难以为其伦理或规范性词汇提供坚实的理论基础。此外，该词汇非常有限，主要聚焦于“伤害”和“偏见”这两个术语。在本文的第二部分，我们论证了解决后者问题可能有助于缓解前者问题。将算法歧视理解为技术问题的现状，反映在现有使用的词汇中并由此被不断复制。“伤害”和“偏见”的概念将歧视问题狭隘地界定为系统与用户界面层面的问题。我们论证指出，辩论不应再围绕“伤害”，而应将“不公正”作为核心概念。这将迫使我们把算法歧视问题理解为一种系统性问题。从而，这将拓宽我们的视野，去审视使 NLP 技术参与歧视的复杂交互作用。凭借这一视角的拓展，我们可以探索解决问题的新角度。
引用
@article{arxiv.2508.04504,
title = {Moving beyond harm. A critical review of how NLP research approaches discrimination},
author = {Katrin Schulz and Marjolein Lanzing and Giulia Martinez Brenner},
journal= {arXiv preprint arXiv:2508.04504},
year = {2025}
}