职场中常见性别歧视言论的自动检测
计算与语言
2020-07-09 v1 计算机与社会
机器学习
摘要
检测职场中的仇恨言论是一项独特的分类任务，因为其潜在的社会语境意味着它是传统仇恨言论的一种更微妙版本。最先进的职场性别歧视检测模型的应用包括人力资源部门辅助工具、AI 聊天机器人和情感分析。大多数现有的仇恨言论检测方法虽然稳健且准确，但侧重于社交媒体（特别是 Twitter）上的仇恨言论。社交媒体的语境比职场匿名得多，因此往往更容易出现更具攻击性和“敌意”的性别歧视。因此，带有大量“敌意”性别歧视的数据集检测任务稍容易一些，因为“敌意”性别歧视言论可能仅取决于几个词，无论语境如何，都会提示模型该言论是性别歧视的。在本文中，我们提出了一个更可能在职场中说出的性别歧视言论数据集，以及一个能够达到最先进结果的深度学习模型。先前的研究基于聚合的 Twitter 数据创建了区分“敌意”和“善意”性别歧视的最先进模型。我们的深度学习方法使用 GloVe 或随机词嵌入初始化，采用带注意力机制的 LSTM，在更面向职场性别歧视、经过筛选且更多样的数据集上优于那些模型，取得了 0.88 的 F1 分数。
引用
@article{arxiv.2007.04181,
title = {Automatic Detection of Sexist Statements Commonly Used at the Workplace},
author = {Dylan Grosz and Patricia Conde-Cespedes},
journal= {arXiv preprint arXiv:2007.04181},
year = {2020}
}
备注
Published at the PAKDD 2020 Workshop on Learning Data Representation for Clustering