基于共指驱动语境分析的有害情色内容检测
计算与语言
2023-10-24 v1
摘要
成人内容检测对自动化而言仍是一大挑战。现有分类器主要关注区分情色与非情色文本，却往往缺乏评估其潜在危害的细致判别。遗憾的是，此类内容因其潜在危害性而超出生成模型的处理范围。伦理限制禁止大语言模型（LLM）分析并分类有害情色内容，更毋庸说生成它们以为其他神经模型创建合成数据集。在数据稀缺且难以获取的情况下，对此类文本结构而非大型模型进行细致分析或可提供可行方案。尤其考虑到有害情色叙述虽看似无害，却通常首先通过叙述中非性部分所隐藏的语境信息显露其危害性。本文提出一种混合神经与基于规则的语境感知系统，利用共指消解来识别情色内容中的有害语境线索。我们与专业审核员合作，整理了一个数据集并开发了能够区分有害与无害情色内容的分类器。我们的混合模型在波兰语文本上测试，展现出 84% 的准确率与 80% 的召回率。基于 RoBERTa 与 Longformer 且未显式使用共指链的模型结果明显更弱，凸显了共指消解在检测此类细微有害情色内容中的重要性。该方法还具备增强视觉可解释性的潜力，协助审核员评估预测并采取必要行动以应对有害内容。
引用
@article{arxiv.2310.14325,
title = {Towards Harmful Erotic Content Detection through Coreference-Driven Contextual Analysis},
author = {Inez Okulska and Emilia Wiśnios},
journal= {arXiv preprint arXiv:2310.14325},
year = {2023}
}
备注
Accepted for 6th Workshop on Computational Models of Reference, Anaphora and Coreference at EMNLP 2023 Conference