揭示文本中的潜在偏见：方法及在同行评审中的应用
计算与语言
2020-10-30 v1 计算机与社会
机器学习
摘要
量化人口子群体之间就业率和工资等数值量上的系统性差异，为社会偏见的存在提供了令人信服的证据。然而，为不同子群体成员所写文本中的偏见(例如男性与非男性候选人的推荐信中)，尽管被广泛轶事报道，仍难以量化。在本工作中，我们引入一种新颖框架来量化由子群体成员身份指示符可见性引起的文本偏见。我们开发了非参数估计与推断过程来估计该偏见。随后我们形式化了一种识别策略，以在身份隐藏政策变更前后时期的观测下，将估计偏见因果地关联到子群体成员身份指示符的可见性。我们确定了一个可推断“ ground truth”偏见以评估我们框架的应用，而非依赖合成或二手数据。具体地，我们应用框架来量化某知名机器学习会议在采用双盲评审政策前后同行评审文本中的偏见。我们展示了作为“ground truth”的评审评分偏见证据，并表明我们提出的框架能在无法访问评审评分的情况下从评审文本中准确检测这些偏见。
引用
@article{arxiv.2010.15300,
title = {Uncovering Latent Biases in Text: Method and Application to Peer Review},
author = {Emaad Manzoor and Nihar B. Shah},
journal= {arXiv preprint arXiv:2010.15300},
year = {2020}
}