DISARM：检测有害表情包所针对的受害对象

互联网表情包已成为网络上日益流行的交流方式。尽管通常意在引发幽默，但它们越来越多地被用于传播仇恨、挑衅和网络欺凌，并基于政治、社会文化与心理原因针对特定个人、群体或社会。先前工作聚焦于检测有害、仇恨和攻击性表情包，而识别其所攻击的对象仍是一个具挑战性且未被充分探索的领域。本文旨在弥补这一空白。具体而言，我们创建了一个数据集，其中为每个表情包标注其受害对象，如被针对的个人、组织和群体的名称。随后我们提出DISARM（Detecting vIctimS targeted by hARmful Memes，检测有害表情包所针对的受害对象），一个利用命名实体识别与人物识别来检测表情包所指代的所有实体，并进而引入一种新颖的上下文多模态深度神经网络以分类该表情包是否意图伤害这些实体的框架。我们在三种测试设定下进行了系统性实验，分别对应训练中（a）全部见过的实体、（b）未作为有害目标见过的实体、（c）完全未见过的实体。评估结果表明DISARM显著优于十种单模态与多模态系统。最后，我们展示DISARM具有可解释性且相对更具泛化能力，并能在多个强多模态对手上将有害目标识别的相对错误率降低至多9个绝对百分点。