面向 TikTok 儿童安全内容审核的 Transformer 多模态系统 MTikGuard
计算与语言
2025-11-25 v1
摘要
随着短视频的快速崛起，TikTok 已成为儿童和青少年最具影响力的平台之一，但也是潜在影响他们感知和行为的有害内容来源。此类内容往往微妙或误导，挑战了传统审核方法，因为其巨大的上传量和实时性。本文提出 MTikGuard，一个用于 TikTok 的实时多模态有害内容检测系统，具有三个关键贡献：(1)通过添加多样化的真实世界样本将 TikHarm 数据集扩展到 4,723 个标记视频，(2)一个集成视觉、音频和文本特征的多模态分类框架实现最佳性能，准确率为 89.37%，F1 分数为 89.45%，(3)一个基于 Apache Kafka 和 Apache Spark 的可扩展流式架构用于实时部署。结果表明，数据集扩充、先进的多模态融合以及稳健的部署在实际大规模社交媒体内容审核方面有效。数据集可在 https://github.com/ntdat-8324/MTikGuard-System.git 提供。
关键词
引用
@article{arxiv.2511.17955,
title = {MTikGuard System: A Transformer-Based Multimodal System for Child-Safe Content Moderation on TikTok},
author = {Dat Thanh Nguyen and Nguyen Hung Lam and Anh Hoang-Thi Nguyen and Trong-Hop Do},
journal= {arXiv preprint arXiv:2511.17955},
year = {2025}
}
备注
Accepted at PACLIC39