面向音频仇恨言论检测的可解释性研究

仇恨言论研究主要围绕从文本输入中进行检测和解释展开，言语内容在很大程度上未被探索。虽然已有少量研究探索了言语声学输入中的仇恨言论检测，但可解释性方面被忽视了。因此，我们提出了一种新的任务——可解释性音频仇恨言论检测。具体而言，我们旨在识别精确的时间区间，称为音频帧级理由（audio frame-level rationales），其作为仇恨言论分类的证据。为此，我们提出了两种不同的方法：级联方法和端到端（E2E）方法。级联方法首先将音频转换为转录文本，在转录文本中识别仇恨言论，随后定位对应的音频时间帧。相反，E2E 方法直接处理语音话语，使其能够在特定时间帧内定位仇恨言论。此外，由于缺乏包含音频帧级理由的可解释性音频仇恨言论数据集，我们整理了一个合成音频数据集来训练模型。我们进一步在真实人类语音话语上验证了这些模型，发现 E2E 方法在音频帧交并比（IoU）指标上优于级联方法。此外，我们观察到加入帧级理由显著提升了 E2E 方法的仇恨言论检测准确率。\textbf{免责声明} 读者可能会遇到具有冒犯性或仇恨性质的内容。然而，鉴于工作的性质，这是不可避免的。