解构仇恨表情包:预设语境与虚假主张
计算与语言
2025-10-14 v1 人工智能
摘要
尽管表情包常常带有幽默色彩,但它们也经常被用于传播仇恨,从而对个人与社会造成严重伤害。现有的仇恨表情包检测方法主要依赖于预训练语言模型。然而,关于「是什么使一个表情包具有仇恨性」这一问题,目前仍缺乏足够的关注。借助哲学与心理学的洞见,我们认为仇恨表情包具有两个本质特征:一个\textbf{预设语境}以及\textbf{虚假主张}的表达。为了刻画预设语境,我们提出了 \textbf{PCM},用于对跨模态的上下文信息进行建模。为了检测虚假主张,我们引入了 \textbf{FACT} 模块,该模块整合外部知识并利用跨模态参考图。通过结合 PCM 与 FACT,我们提出了 \textbf{\textsf{SHIELD}},一个旨在捕捉仇恨本质的仇恨表情包检测框架。大量实验表明,SHIELD 在多个数据集与指标上均优于最先进的方法,同时在诸如假新闻检测等其他任务上也展现出了良好的通用性。
引用
@article{arxiv.2510.09935,
title = {Unpacking Hateful Memes: Presupposed Context and False Claims},
author = {Weibin Cai and Jiayu Li and Reza Zafarani},
journal= {arXiv preprint arXiv:2510.09935},
year = {2025}
}