语言(技术)即权力:NLP中“偏见”的批判性综述
计算与语言
2020-06-01 v2 计算机与社会
摘要
我们综述了146篇分析NLP系统中“偏见”的论文,发现尽管分析“偏见”本质上是一个规范性过程,这些论文的动机往往模糊、不一致且缺乏规范性推理。我们进一步发现,这些论文提出的用于度量或缓解“偏见”的定量技术与其动机不匹配,且未涉及NLP之外的相关文献。基于这些发现,我们描述了前进路径的初步方向,提出三条应指导NLP系统中“偏见”分析工作的建议。这些建议立足于更充分地认识语言与社会等级之间的关系,鼓励研究者和从业者阐明其对“偏见”的概念化——即何种系统行为有害、以何种方式、对谁、为何有害,以及这些陈述背后的规范性推理——并以受NLP系统影响的社群成员的生活经验为中心,同时审视并重构技术专家与此类社群之间的权力关系。
引用
@article{arxiv.2005.14050,
title = {Language (Technology) is Power: A Critical Survey of "Bias" in NLP},
author = {Su Lin Blodgett and Solon Barocas and Hal Daumé and Hanna Wallach},
journal= {arXiv preprint arXiv:2005.14050},
year = {2020}
}