TikGuard：基于Transformer深度学习的TikTok儿童不宜内容检测方案
计算机视觉与模式识别
2024-10-02 v1 人工智能
摘要
TikTok等平台上短视频的兴起给保护年轻观众免受不当内容侵害带来了新的挑战。传统的审核方法往往难以应对海量且快速变化的用户生成视频，增加了儿童接触有害内容的风险。本文介绍了TikGuard，一种基于Transformer的深度学习方法，旨在检测并标记TikTok上不适合儿童的内容。通过使用专门策划的数据集TikHarm，并利用先进的视频分类技术，TikGuard达到了86.7%的准确率，在类似场景下相较于现有方法有显著提升。尽管由于TikHarm数据集的独特性，直接比较受到限制，但TikGuard的性能凸显了其在增强内容审核方面的潜力，有助于为未成年人创造更安全的在线体验。本研究强调了Transformer模型在视频分类中的有效性，并为该领域的未来研究奠定了基础。
引用
@article{arxiv.2410.00403,
title = {TikGuard: A Deep Learning Transformer-Based Solution for Detecting Unsuitable TikTok Content for Kids},
author = {Mazen Balat and Mahmoud Essam Gabr and Hend Bakr and Ahmed B. Zaky},
journal= {arXiv preprint arXiv:2410.00403},
year = {2024}
}
备注
NILES2024