Muted：多语言定向攻击性言论识别与可视化
计算与语言
2023-12-19 v1 人工智能
人机交互
摘要
攻击性语言（如仇恨、辱骂和亵渎，HAP）出现在网络上的各种内容中。虽然以往的工作大多处理句子级标注，但最近已有一些尝试识别攻击性片段。我们在此工作基础上引入Muted系统，该系统通过使用热图显示攻击性论点及其目标的强度来识别多语言HAP内容。Muted可直接利用任何基于Transformer的HAP分类模型及其注意力机制来识别有毒片段，无需进一步微调。此外，我们使用spaCy库识别注意力热图预测的单词的具体目标和论点。我们展示了模型在现有数据集上识别攻击性片段及其目标的性能，并提供了德语文本的新标注。最后，我们在多语言输入上演示了我们提出的可视化工具。
引用
@article{arxiv.2312.11344,
title = {Muted: Multilingual Targeted Offensive Speech Identification and Visualization},
author = {Christoph Tillmann and Aashka Trivedi and Sara Rosenthal and Santosh Borse and Rong Zhang and Avirup Sil and Bishwaranjan Bhattacharjee},
journal= {arXiv preprint arXiv:2312.11344},
year = {2023}
}