从 BERT 到 Qwen：跨架构的仇恨检测

Ariadna Mon; Saúl Fenollosa; Jon Lecumberri

从 BERT 到 Qwen：跨架构的仇恨检测

计算与语言 2025-07-15 v1 机器学习

作者: Ariadna Mon , Saúl Fenollosa , Jon Lecumberri

摘要

在线平台在控制仇恨言论的同时往往会过度审查合法言论。早期的双向 transformer 编码器取得了显著进展，但超大规模自回归大语言模型（LLM）的到来为更深入的上下文感知带来了希望。这种额外的规模是否在实际应用中改善了对真实文本中仇恨言论的检测效果尚未验证。我们的研究通过在 curated 的在线交互语料库上对两种模型家族（经典编码器和下一代 LLM）进行基准测试来回答这一问题，测试对象是用于仇恨言论检测的语料库（Hate or No Hate）。

关键词

仇恨言论检测 BERT 大语言模型自回归模型上下文感知双向编码器 transformer 在线监管

引用

@article{arxiv.2507.10468,
  title  = {From BERT to Qwen: Hate Detection across architectures},
  author = {Ariadna Mon and Saúl Fenollosa and Jon Lecumberri},
  journal= {arXiv preprint arXiv:2507.10468},
  year   = {2025}
}

备注

4 pages, 5 figures. EE-559 Deep Learning course project (Group 11)

从 BERT 到 Qwen：跨架构的仇恨检测

摘要

关键词

引用

备注

相关论文