面向边缘设备的轻量级语音毒性检测：一种基于 Transformer 的方法
声音
2023-04-25 v1 音频与语音处理
摘要
毒性是一种普遍的社会行为，涉及仇恨言论、攻击性语言、欺凌和辱骂性言论的使用。尽管基于文本的毒性检测方法很常见，但在物理世界中处理语音信号的研究有限。由于难以将具备 AI 能力的计算机集成到环境中，在物理世界中检测毒性具有挑战性。我们提出了一种基于 wav2vec2.0 的轻量级 transformer 模型，并采用量化和知识蒸馏等技术对其进行优化。我们的模型使用多任务学习，在 DeToxy-B 和一个公开数据集上取得了 90.3% 的平均宏 F1 分数和 88% 的加权准确率，优于当前最优方法。结果表明，量化使模型大小减少近 4 倍、RAM 使用降低 3.3%，仅带来 1% 的 F1 分数下降；知识蒸馏使模型大小减少 3.7 倍、RAM 使用降低 1.9 倍、推理时间减半，但准确率下降 8%；两者结合使模型大小减少 14.6 倍、RAM 使用降低约 4.3 倍，推理时间提升两倍。我们的紧凑模型是首个基于轻量级 transformer 的端到端语音毒性检测模型，适用于在物理空间中部署。结果显示了其在真实环境边缘设备上进行毒性检测的可行性。
关键词
引用
@article{arxiv.2304.11408,
title = {Lightweight Toxicity Detection in Spoken Language: A Transformer-based Approach for Edge Devices},
author = {Ahlam Husni Abu Nada and Siddique Latif and Junaid Qadir},
journal= {arXiv preprint arXiv:2304.11408},
year = {2023}
}
备注
Under Rewiew