利用大规模多媒体数据集优化内容审核模型
计算机视觉与模式识别
2022-12-02 v1
摘要
在线用户生成内容的海量规模使得内容审核技术必不可少，以保护数字平台受众免受可能引起焦虑、担忧或关切的内容影响。尽管在开发自动化解决方案以解决此问题方面做出了努力，但由于缺乏足够的特定任务训练数据，创建准确模型仍然具有挑战性。手动标注此类数据是一个极高要求的程序，可能严重影响标注者的情绪健康，这与后一限制直接相关。在本文中，我们提出 CM-Refinery 框架，该框架利用大规模多媒体数据集自动以困难样本扩展初始训练数据集，从而优化内容审核模型，同时显著减少人类标注者的参与。我们将我们的方法应用于两种模型自适应策略，这些策略针对数据收集时观察到的不同挑战而设计，即缺乏 (i) 特定任务负样本或 (ii) 正负样本均缺乏。此外，我们引入应用于数据收集过程的多样性准则，进一步增强了优化模型的泛化性能。所提方法在基准数据集上的不安全内容 (NSFW) 和令人不安内容检测任务上进行评估，分别实现了比最先进水平 (SOTA) 高 1.32% 和 1.94% 的准确率提升。最后，它显著减少了人类参与，因为在令人不安内容情况下 92.54% 的数据被自动标注，而 NSFW 任务无需人工干预。
引用
@article{arxiv.2212.00668,
title = {Leveraging Large-scale Multimedia Datasets to Refine Content Moderation Models},
author = {Ioannis Sarridis and Christos Koutlis and Olga Papadopoulou and Symeon Papadopoulos},
journal= {arXiv preprint arXiv:2212.00668},
year = {2022}
}