MetaHarm：由领域专家、GPT-4-Turbo 和 众所预测注标的有害 YouTube 视频数据集
计算机视觉与模式识别
2025-04-24 v1
摘要
短视频平台如 YouTube、Instagram 或 TikTok 已被数十亿用户使用。这些平台将用户暴露于各类有害内容之中，包括点击诱导内容、身体伤害、仇恨或误导信息等。然而，我们对这些平台上线上危害的全面理解与测量仍显不足。为此目的，我们提出了两大规模多模态、多分类标签的线上危害数据集：（1）60,906 个系统筛选的潜在有害 YouTube 视频；（2）19,422 个由三类标注者标注的视频：专业领域训练的专家、GPT-4-Turbo（使用 14 张图像帧、1 张缩略图和文本元数据）以及众所预测上的专业工作者。标注数据集包括（a）二元分类（有害 vs. 无害）以及（b）六类危害类别的多标签分类：信息、仇恨与骚扰、成瘾、点击诱导、性和身体伤害。此外，标注数据集提供了（1）在（a）所有三类标注者以及（b）多数标注者之间一致标注的真实数据，以及（2）由单个标注者标注的三个数据子集。预期这些数据集将促进未来的线上危害研究，助力（多模态）分类工作，推动识别和潜在缓解视频平台上有害内容的可能性。
关键词
引用
@article{arxiv.2504.16304,
title = {MetaHarm: Harmful YouTube Video Dataset Annotated by Domain Experts, GPT-4-Turbo, and Crowdworkers},
author = {Wonjeong Jo and Magdalena Wojcieszak},
journal= {arXiv preprint arXiv:2504.16304},
year = {2025}
}