作者至关重要：深度文本分类中隐式偏见的认知与缓解
计算与语言
2021-05-07 v1
摘要
显然，基于人类数据训练的深度文本分类模型可能存在偏见。具体而言，它们对明确包含某些人口群体身份术语的文本会产生偏见性输出。我们将此类偏见称为显式偏见，其已被广泛研究。然而，深度文本分类模型也可能对由某些人口群体作者所写文本产生偏见性输出。我们将这种偏见称为隐式偏见，我们对其理解仍相当有限。本文中，我们首先证明隐式偏见在不同文本分类任务中针对不同人口群体均存在。随后，我们构建一种基于学习的解释方法以深化对隐式偏见的认识。具体地，我们验证分类器学会基于与作者人口属性相关的语言特征进行预测。接着，我们提出 Debiased-TC 框架来训练深度文本分类器，使其基于正确特征预测，从而缓解隐式偏见。我们在三个真实数据集上进行了充分实验。结果表明，在我们所提框架下训练的文本分类模型在公平性上显著优于传统模型，在分类性能上也略有提升。
引用
@article{arxiv.2105.02778,
title = {The Authors Matter: Understanding and Mitigating Implicit Bias in Deep Text Classification},
author = {Haochen Liu and Wei Jin and Hamid Karimi and Zitao Liu and Jiliang Tang},
journal= {arXiv preprint arXiv:2105.02778},
year = {2021}
}
备注
Accepted by Findings of ACL 2021