设备端内容审核
计算机视觉与模式识别
2021-07-27 v1 人工智能
摘要
随着互联网的兴起，不宜在工作场所浏览(NSFW)的内容审核已成为当今的一个主要问题。由于智能手机如今已成为数十亿人日常生活的一部分，拥有一个能够检测并提示用户其手机上潜在NSFW内容的解决方案变得更为重要。本文提出了一种用于检测NSFW图像的新型设备端解决方案。除传统的色情内容审核外，我们还纳入了半裸内容审核，因为在大量人群中其仍属NSFW。我们整理了一个包含 nude、semi-nude 和 safe 三类图像的数据集。我们创建了目标检测器与分类器的集成以过滤 nude 和 semi-nude 内容。该解决方案提供不安全身体部位标注以及半裸图像的识别。我们在多个公开数据集及自建数据集上对所提方案进行了广泛测试。该模型在自建 NSFW16k 数据集上取得了0.91的F1分数（95%精确率、88%召回率），在 NPDI 数据集上取得了0.92的MAP，且在多个安全图像开放数据集集合上平均误报率为0.002。
引用
@article{arxiv.2107.11845,
title = {On-Device Content Moderation},
author = {Anchal Pandey and Sukumar Moharana and Debi Prasanna Mohanty and Archit Panwar and Dewang Agarwal and Siva Prasad Thota},
journal= {arXiv preprint arXiv:2107.11845},
year = {2021}
}