直播内容的动态 Moderation：结合受监督分类与 MLLM 提升的相似性匹配
计算机视觉与模式识别
2026-01-29 v2 人工智能
摘要
内容 Moderation 仍是大规模用户生成视频平台的关键且具挑战性的任务，尤其是在直播环境中， Moderation 必须及时、多模态且对不断演变的不可接受内容具有鲁棒性。我们在生产规模部署的混合 Moderation 框架结合了针对已知违规的受监督分类与针对新型或细微情形的基于参考的相似性匹配。这种混合设计使我们能够稳健地检测已知违规以及那些可被传统分类器逃避的新兴边缘情况。多模态输入（文本、音频、视觉）通过两个管道处理，MLLM 将知识蒸馏到每个管道以提升准确度同时保持推理轻量。在生产环境中，分类管道在 80% 精确率下实现 67% 的召回率，相似性管道在 80% 精确率下实现 76% 的召回率。大规模 A/B 测试显示，用户查看不可接受直播的比例降低了 6-8%。这些结果表明我们的方法在可扩展且可适应的多模态内容治理方面具有实用性，能够应对已知违规及新兴对抗性行为。
引用
@article{arxiv.2512.03553,
title = {Dynamic Content Moderation in Livestreams: Combining Supervised Classification with MLLM-Boosted Similarity Matching},
author = {Wei Chee Yew and Hailun Xu and Sanjay Saha and Xiaotian Fan and Hiok Hian Ong and David Yuchen Wang and Kanchan Sarkar and Zhenheng Yang and Danhui Guan},
journal= {arXiv preprint arXiv:2512.03553},
year = {2026}
}
备注
To be published at KDD 2026 (ADS track)