基于熵引导的多任务学习从社交标签到细粒度有毒 meme 检测
计算机视觉与模式识别
2026-03-17 v2 计算与语言
摘要
Meme 作为一种广泛使用的在线通信方式，常常作为传播有害内容的载体。然而，数据可访问性的局限性和数据集策划的高成本阻碍了强大 meme moderation 系统的开发。为了解决这一挑战，本工作引入了首个其类的数据集 - TOXICTAGS，其中包含 6300 个真实世界的 meme 基于帖子，分为两个阶段标注：(i) 二元分类为有毒和正常，(ii) 对有毒 meme 进行细粒度标注，分为 hateful、dangerous 或 offensive。此数据集的一个关键特征是其包含社交相关标签的辅助元数据的丰富内容，这增强了每个 meme 的上下文。此外，我们提出了一种新颖的熵引导多任务框架 - STEMTOX - 该框架将社交标签的生成与稳健的分类框架集成。实验结果表明，纳入这些标签在毒性检测任务中显著提升了最先进的视觉语言模型的性能。我们的贡献为改进的多模态在线环境的内容 moderation 提供了一种新颖且可扩展的基础。警告：包含潜在有毒内容。
引用
@article{arxiv.2508.04166,
title = {STEMTOX: From Social Tags to Fine-Grained Toxic Meme Detection via Entropy-Guided Multi-Task Learning},
author = {Subhankar Swain and Naquee Rizwan and Vishwa Gangadhar S and Nayandeep Deb and Animesh Mukherjee},
journal= {arXiv preprint arXiv:2508.04166},
year = {2026}
}