毒性分类中个人身份的去偏
计算与语言
2019-08-19 v1
摘要
随着机器学习模型在自动化决策中日益被依赖，模型偏差问题变得越来越普遍。在本文中，我们着手训练一个文本分类模型，并通过不仅衡量模型在整个数据集上的表现，还衡量其在不同子组上的表现来优化偏差最小化。这需要对不同人口统计子组的性能进行独立衡量，并通过将其与数据其余部分的结果进行比较来衡量偏差。我们展示了如何使用这些指标检测非预期偏差，以及从数据集中完全移除偏差如何可能导致更差的结果。
引用
@article{arxiv.1908.05757,
title = {Debiasing Personal Identities in Toxicity Classification},
author = {Apik Ashod Zorian and Chandra Shekar Bikkanur},
journal= {arXiv preprint arXiv:1908.05757},
year = {2019}
}