ToXCL：一个统一的毒性语音检测与解释框架

在线毒性语音的泛滥是一个 pertinent 问题，对特定人群构成威胁。显式毒性语音包含攻击性词汇信号，而隐式毒性语音则由暗语或间接语言组成。因此，模型不仅需要检测隐式毒性语音，还需要解释其毒性。这产生了对能够有效检测和解释隐式毒性语音的统一框架的独特需求。先前的工作主要将毒性语音检测和解释任务表述为文本生成问题。尽管如此，使用这种策略训练的模型容易遭受随之而来的错误传播问题。此外，我们的实验表明，此类模型的检测结果远低于仅关注检测任务的模型。为了弥补这些差距，我们引入了 ToXCL，一个用于隐式毒性语音检测和解释的统一框架。我们的模型由三个模块组成： 一个目标群体生成器，用于生成给定帖子的目标人群； 一个编码器-解码器模型，其中编码器专注于检测隐式毒性语音，并通过知识蒸馏由 教师分类器增强，解码器生成必要的解释。ToXCL 取得了新的 SOTA 效果，并显著优于基线。