律师都不诚实？量化常识知识资源中的表征性危害
计算与语言
2021-09-13 v2
摘要
警告：本文包含可能令人不适或反感的内容。众多自然语言处理模型试图通过利用 ConceptNet 知识库注入常识，以提升在不同任务上的性能。然而，ConceptNet 大多由人类众包得到，可能反映人类偏见，例如“律师是不诚实的”。重要的是，这些偏见不应与常识的概念相混淆。我们通过首先定义并量化 ConceptNet 中的偏见为两类表征性危害：极化感知的过度泛化与表征差异，来研究这一缺失却重要的问题。我们发现 ConceptNet 在四个 demographic 类别上存在严重的偏见与差异。此外，我们分析了两个使用 ConceptNet 作为常识知识来源的下游模型，并发现这些模型中同样存在偏见。我们进一步提出了一种基于过滤的偏见缓解方法，并检验了其有效性。我们表明，我们的缓解方法能够减少资源和模型中的问题，但会导致性能下降，为未来构建更公平且更强的常识模型留下了空间。
引用
@article{arxiv.2103.11320,
title = {Lawyers are Dishonest? Quantifying Representational Harms in Commonsense Knowledge Resources},
author = {Ninareh Mehrabi and Pei Zhou and Fred Morstatter and Jay Pujara and Xiang Ren and Aram Galstyan},
journal= {arXiv preprint arXiv:2103.11320},
year = {2021}
}