恶意还是良性？面向儿童视频的有效内容审核

在线视频平台每分钟收到数百小时的上传内容，使得人工内容审核不可能实现。不幸的是，恶意视频内容最易受害的消费者是 1–5 岁儿童，其注意力很容易被色彩与声音的突发所捕获。试图将其内容变现的骗子可能炮制恶意的儿童视频，它们在表面上类似于教育视频，却包含恐怖恶心角色、暴力动作、喧闹音乐与扰人噪声。YouTube 等知名视频托管平台已采取措施缓解其平台上的恶意内容，但这些视频常未被当前聚焦于删除色情或侵权内容的内容审核工具所检测。本文介绍我们的工具包 Malicious or Benign，以促进儿童视频自动内容审核的研究。我们提供 1) 可定制的视频标注工具，2) 一个包含难以检测的恶意内容测试用例的新数据集，以及 3) 一套最先进视频分类模型的基准测试套件。