ETHOS：一个在线仇恨言论检测数据集
计算与语言
2022-01-05 v2 机器学习
机器学习
摘要
在线仇恨言论是我们社会中的一个近期问题，它利用大多数社交媒体平台相应体制的漏洞，正以稳定的速度上升。这一现象主要由攻击性评论助长，无论是在用户互动期间还是以发布的多媒体内容形式出现。如今，大型公司拥有每天有数百万用户登录的平台，为了保护用户免受此类现象的影响，似乎有必要遵守相应法规并维持高水平服务质量。一个用于检测和防止上传相关内容的稳健可靠系统将对我们的数字互联社会产生重大影响。我们日常生活的多个方面无疑与我们的社交资料相关联，使我们易受滥用行为侵害。因此，缺乏准确的仇恨言论检测机制将严重降低整体用户体验，尽管其错误运行也会引发诸多伦理关切。在本文中，我们提出“ETHOS”，一个基于YouTube和Reddit评论、使用Figure-Eight众包平台验证的文本数据集，具有二进制和多标签两种变体。此外，我们展示了用于创建该数据集的标注协议：一种用于根据所定义各个方面平衡数据的主动采样过程。我们的关键假设是，即使从这一耗时过程中仅获得少量标注数据，我们也能保证所检查材料中出现仇恨言论。
引用
@article{arxiv.2006.08328,
title = {ETHOS: an Online Hate Speech Detection Dataset},
author = {Ioannis Mollas and Zoe Chrysopoulou and Stamatis Karlos and Grigorios Tsoumakas},
journal= {arXiv preprint arXiv:2006.08328},
year = {2022}
}
备注
16 Pages, 3 Figures, 9 Tables, Submitted to the special issue on "Intelligent Systems for Safer Social Media" of Complex & Intelligent Systems