中文

语境决定关键:在对话性侮辄语言检测中融合目标感知

计算与语言 2025-08-19 v1 人工智能

摘要

侮辄语言检测作为解决社交媒体中有害内容的手段日益受到关注。已有大量研究致力于开发判定社交媒体帖子是否为侮辄性的模型;然而,这些研究主要关注单独分析帖子,忽略了从周围帖子中可获得的额外语境信息。本研究聚焦对话式交互场景,即用户对另一用户(父级帖子)所作回复。我们探询:利用父级帖子的语境信息是否能帮助判定回复帖子是否为侮辄性,以及哪些特征对分类贡献最大。我们提取了来自语境的多种内容特征和账户特征,并与仅使用回复帖子特征的常规方法进行比较。为保证研究的普遍适用性,我们在由对话式交互(父级回复帖子配对)组成的数据集上测试了四种不同的分类模型,对回复帖子进行侮辄性或非侮辄性标签。实验结果表明,融合语境特征的性能显著优于仅使用回复帖子特征,证明了利用语境的重要性。我们发现,在所研究的特征中,内容特征(帖子所含内容)对分类性能贡献大于账户特征(发帖者身份)。在内容特征方面,组合多种不同特征的效果优于精选少量特征。本研究为在包含真实对话场景下的语境化侮辄语言检测模型开发提供了洞见。

关键词

引用

@article{arxiv.2508.12828,
  title  = {Context Matters: Incorporating Target Awareness in Conversational Abusive Language Detection},
  author = {Raneem Alharthi and Rajwa Alharthi and Aiqi Jiang and Arkaitz Zubiaga},
  journal= {arXiv preprint arXiv:2508.12828},
  year   = {2025}
}