开发语言模式以减轻攻击性语言检测中固有的人类偏见
计算与语言
2023-12-05 v1 人工智能
摘要
随着社交媒体的普及，攻击性内容急剧增加，特别是针对弱势群体的内容，加剧了仇恨、种族主义和性别歧视等社会问题。检测攻击性语言的使用对于防止攻击性语言在社交媒体上广泛传播至关重要。然而，准确检测社交媒体上的讽刺、暗示和各种形式的仇恨言论仍然是一个挑战。基于自然语言的深度学习模型需要大量、全面且标注的数据集进行广泛训练。不幸的是，手动创建此类数据集既昂贵又容易出错。此外，攻击性语言数据集中存在的人类偏见是深度学习模型的一个主要问题。在本文中，我们提出了一种语言数据增强方法来减少标注过程中的偏见，旨在通过利用机器的力量来提高标注过程的准确性和公平性，从而减轻人类偏见的影响。这种方法有潜力改善跨多种语言的攻击性语言分类任务，并减少社交媒体上攻击性内容的普遍性。
引用
@article{arxiv.2312.01787,
title = {Developing Linguistic Patterns to Mitigate Inherent Human Bias in Offensive Language Detection},
author = {Toygar Tanyel and Besher Alkurdi and Serkan Ayvaz},
journal= {arXiv preprint arXiv:2312.01787},
year = {2023}
}