通过欠规范问题揭示刻板偏见偏差
计算与语言
2020-10-13 v3
摘要
尽管已有研究表明语言嵌入存在刻板偏见，但这些偏见如何影响下游问答（QA）模型仍未被探索。我们提出 UNQOVER，一个通过欠规范问题探查并量化偏见的通用框架。我们表明，由于两种推理错误形式——位置依赖与问题独立，朴素地使用模型分数会导致错误的偏见估计。我们设计了一种形式化方法以隔离上述错误。作为案例研究，我们使用该度量分析了四类重要的刻板印象：性别、国籍、族裔与宗教。我们探查了在两份 QA 数据集上训练的五个基于 transformer 的 QA 模型及其底层语言模型。我们广泛的揭示：(1) 所有这些模型，无论是否经过微调，在这些类别中均具有显著的刻板偏见；(2) 更大的模型往往具有更高的偏见；(3) 微调对偏见的影响随数据集和模型规模强烈变化。
引用
@article{arxiv.2010.02428,
title = {UnQovering Stereotyping Biases via Underspecified Questions},
author = {Tao Li and Tushar Khot and Daniel Khashabi and Ashish Sabharwal and Vivek Srikumar},
journal= {arXiv preprint arXiv:2010.02428},
year = {2020}
}
备注
Accepted at Findings of EMNLP 2020