检测有害表情包及其攻击目标
计算与语言
2021-10-04 v1 机器学习
多媒体
社会与信息网络
摘要
在社交媒体的各种交流方式中，网络表情包的使用已成为传达政治、心理及社会文化观点的有力手段。尽管表情包本质上通常具有幽默性，但近来针对滥用各类社会实体的有害表情包大量涌现。由于大多数有害表情包在缺乏恰当语境时极具讽刺且晦涩，现成的多模态模型可能不足以理解其深层语义。本文提出两种新问题设定：检测有害表情包以及这些有害表情包所针对的社会实体。为此，我们提出 HarMeme——首个包含 3,544 个与 COVID-19 相关表情包的基准数据集。每个表情包均经过严格的两阶段标注过程。第一阶段，我们将表情包标注为非常有害、部分有害或无害；第二阶段，进一步标注每个有害表情包所指目标类型：个人、组织、社群或社会/公众/其他。使用十种单模态与多模态模型的评测结果凸显了在两项任务中利用多模态信号的重要性。我们进一步讨论了这些模型的局限性，并认为需更多研究以解决这些问题。
引用
@article{arxiv.2110.00413,
title = {Detecting Harmful Memes and Their Targets},
author = {Shraman Pramanick and Dimitar Dimitrov and Rituparna Mukherjee and Shivam Sharma and Md. Shad Akhtar and Preslav Nakov and Tanmoy Chakraborty},
journal= {arXiv preprint arXiv:2110.00413},
year = {2021}
}
备注
harmful memes, multimodality, social media