揭示社交媒体评论中的身份群体：一种新型命名实体识别系统
计算与语言
2024-05-24 v1 人工智能
信息检索
摘要
虽然文明用户会利用社交媒体获取信息并讨论日常事件，但仇恨者则视这些平台为攻击群体和个人的肥沃土壤。在此背景下，常规的仇恨言论检测方法依赖文本分类器，以识别此类攻击。有效的平台措施旨在举报仇恨者并阻断其网络访问。本研究拓展了常规的仇恨言论检测方法，开发了针对身份群体的命名实体识别（NER）系统。为实现此目标，我们构建了一个允许扩展常规NER以识别身份群体的数据集。因此，该工具不仅能检测句子是否包含攻击，还能标记与被提及群体相关的句子标记。结果表明，该模型在识别身份群体方面表现出竞争力，平均F1分数为0.75，在识别族裔攻击范围方面 outperform 其他身份群体，F1分数达到0.80。此外，该工具在针对性取向和性别等少数派类别的泛化能力突出，分别达到0.77和0.72的F1分数。我们在社交媒体上的案例研究中测试了该工具的实用性，对与身份群体相关的新闻评论进行标注和比较。案例研究揭示了记录的攻击类型差异，有效检测了与所分析新闻文章类别相关的命名实体。实体在其类别内被准确标记，跨类别标记的误差率可忽略不计。
引用
@article{arxiv.2405.13011,
title = {Unveiling Social Media Comments with a Novel Named Entity Recognition System for Identity Groups},
author = {Andrés Carvallo and Tamara Quiroga and Carlos Aspillaga and Marcelo Mendoza},
journal= {arXiv preprint arXiv:2405.13011},
year = {2024}
}