基于机器学习的自动仇恨言论检测中的挑战综述
计算与语言
2022-09-13 v1 机器学习
摘要
社交媒体空间上仇恨言论的蔓延目前是一个严重问题。轻易获取这些平台上生成的海量信息，导致人们发布并以有毒内容作出反应，进而引发暴力。尽管已作出努力以检测并遏制此类线上内容，但准确识别仍具挑战。基于深度学习的方案一直处于识别仇恨内容的前沿。然而，诸如仇恨言论的语境依赖性质、用户意图、非预期偏差等因素使该过程极为关键。本文通过给出这些问题的层次化组织，深入探究了自动仇恨言论检测中广泛的挑战。我们聚焦于基于机器学习或深度学习的仇恨言论识别方案所面临的挑战。在顶层，我们区分数据层、模型层与人力层挑战。我们进一步以实例对每一层次给出了详尽分析。本综述将助力研究者在仇恨言论检测领域更高效地设计其方案。
引用
@article{arxiv.2209.05294,
title = {A Review of Challenges in Machine Learning based Automated Hate Speech Detection},
author = {Abhishek Velankar and Hrushikesh Patil and Raviraj Joshi},
journal= {arXiv preprint arXiv:2209.05294},
year = {2022}
}