MultiHateClip：YouTube 和 Bilibili 上仇恨视频检测的多语言基准数据集

仇恨言论是现代社会中一个紧迫的问题，在线上和线下都有显著影响。近期仇恨言论检测研究主要围绕基于文本的媒体展开，很大程度上忽视了视频等多模态内容。现有仇恨视频数据集研究主要关注西方语境下的英语内容，且仅限于二元标签（仇恨或非仇恨），缺乏详细的上下文信息。本研究提出了 MultiHateClip¹，一个通过仇恨词典和人类标注创建的多语言数据集，旨在增强 YouTube 和 Bilibili 等平台上仇恨视频的检测，包括英语和中文内容。该数据集包含 2,000 个标注了仇恨性、冒犯性和正常性的视频，提供了跨文化视角的性别歧视仇恨言论。通过对人类标注结果的详细分析，我们讨论了中文和英语仇恨视频之间的差异，并强调了不同模态在仇恨和冒犯视频分析中的重要性。在 MultiHateClip 上对最先进的视频分类模型（如 VLM、GPT-4V 和 Qwen-VL）的评估，凸显了准确区分仇恨和冒犯内容所面临的现有挑战，以及亟需既多模态又具有文化敏感性的模型。MultiHateClip 通过强调在对抗在线仇恨言论时需要多模态和文化敏感的方法，代表了提升仇恨视频检测的基础性进展。