理解与分析线上话语中的不恰当指向性语言：基于比较注释研究
计算与语言
2025-05-23 v1
摘要
本文提出了一种检测线上对话中不恰当指向性语言的方法，通过整合民众和专家注释与ChatGPT。我们聚焦于来自Reddit的英文对话线程，研究针对个体或群体的评论。我们的做法涉及一个全面的注释框架，用于在对话语境中对各种目标类别和特定目标词进行标记。我们对人类专家、民众注释者和ChatGPT的注释进行比较分析，揭示了每种方法在识别显性仇恨言论和更细微的歧视性语言方面的优势与局限。我们的发现突显了识别仇恨言论中语境因素的重要作用，并揭示了新的指向性类别，如社会信念和身体形象。我们也讨论了注释中的挑战与主观判断以及ChatGPT在把握细腻语言方面的局限。该研究为改进自动内容 moderation策略以提升线上安全性和包容性提供了见解。
引用
@article{arxiv.2505.16847,
title = {Understanding and Analyzing Inappropriately Targeting Language in Online Discourse: A Comparative Annotation Study},
author = {Baran Barbarestani and Isa Maks and Piek Vossen},
journal= {arXiv preprint arXiv:2505.16847},
year = {2025}
}