视频生成模型中成人内容检测的潜在空间探针
计算机视觉与模式识别
2026-05-05 v1 人工智能
机器学习
多媒体
摘要
AI 驱动的视频生成系统的快速普及在内容 moderation 中带来了诸多挑战，尤其是针对成人及性暗示内容。现有检测方法要么 operate on 提示，要么 operate on 解码像素空间输出，因此两者都对生成期间形成的丰富内部表示一无所知。本文提出一种 novel 潜在空间探针框架，拦截 CogVideoX 视频扩散模型在推理期间去噪后的潜在表示，并附加轻量级分类器实现实时成人内容检测。为支持本工作，我们构建了一个大规模二元数据集，包含 11,039 个 10 秒视频片段（5,086 违规，5,953 非违规），分别来自成人网站和 YouTube。我们引入两种轻量级探针分类器架构。我们在该数据集上训练和评估这些模型。我们的工作表明，潜在空间信号对有害内容检测编码强大的判别特征，实现了 97.29% 的 F1 分数，开销仅在 4-6ms 范围内。我们的结果表明，探针潜在空间可在检测性能和成本方面实现改进。
引用
@article{arxiv.2605.00874,
title = {Latent Space Probing for Adult Content Detection in Video Generative Models},
author = {Alizishaan Khatri and Chiquita Prabhu},
journal= {arXiv preprint arXiv:2605.00874},
year = {2026}
}
备注
To be published in 2026 56th Annual IEEE International Conference on Dependable Systems and Networks Workshops (DSN-W)