仇恨言论审核的最新进展：多模态性与大模型的作用
计算与语言
2024-10-31 v4
摘要
在不断演变的在线交流环境中，审核仇恨言论（HS）构成了一项复杂的挑战，而数字内容的多模态特性加剧了这一挑战。这篇全面的综述深入探讨了仇恨言论审核的最新进展，重点关注大语言模型（LLMs）和大规模多模态模型（LMMs）日益增长的作用。我们的探索始于对当前文献的彻底分析，揭示了文本、视觉和听觉元素在传播仇恨言论中微妙的相互作用。我们发现了一个显著的趋势，即整合这些模态，这主要是由于仇恨言论传播方式的复杂性和微妙性。我们特别强调了 LLMs 和 LMMs 所推动的进步，这些模型已开始重新定义检测和审核能力的边界。我们指出了现有研究中的空白，特别是在代表性不足的语言和文化背景下，以及需要解决方案来处理低资源环境。本综述最后提出了前瞻性的视角，概述了未来研究的潜在途径，包括探索新颖的 AI 方法、AI 在审核中的伦理治理，以及开发更细致、更具上下文感知能力的系统。这篇全面的概述旨在促进进一步的研究，并推动协作努力，以在数字时代实现更复杂、更负责任和更以人为中心的仇恨言论审核方法。警告：本文包含冒犯性示例。
引用
@article{arxiv.2401.16727,
title = {Recent Advances in Hate Speech Moderation: Multimodality and the Role of Large Models},
author = {Ming Shan Hee and Shivam Sharma and Rui Cao and Palash Nandi and Preslav Nakov and Tanmoy Chakraborty and Roy Ka-Wei Lee},
journal= {arXiv preprint arXiv:2401.16727},
year = {2024}
}
备注
Accepted at EMNLP'24 (Findings)