NLP 模型中的社会偏见作为残障人士的障碍
计算与语言
2020-05-05 v1 人工智能
机器学习
摘要
构建公平和包容的 NLP 技术需要考虑社会态度是否在机器学习模型中被表征以及如何被表征。特别是，模型中编码的表示往往会无意中固化训练数据中所带有的不良社会偏见。在本文中，我们呈现了两种不同英语语言模型（毒性预测和情感分析）中对残障相关表述存在此类不良偏见的证据。接下来，我们证明作为大多数 NLP 流水线关键第一步的神经嵌入同样包含对残障相关表述的不良偏见。最后，我们强调了关于残障的话语中的主题偏见，其可能导致所观察到的模型偏见；例如，在讨论精神疾病的文本中，枪支暴力、无家可归和药物成瘾被过度代表。
引用
@article{arxiv.2005.00813,
title = {Social Biases in NLP Models as Barriers for Persons with Disabilities},
author = {Ben Hutchinson and Vinodkumar Prabhakaran and Emily Denton and Kellie Webster and Yu Zhong and Stephen Denuyl},
journal= {arXiv preprint arXiv:2005.00813},
year = {2020}
}
备注
ACL 2020 short paper. 5 pages