仇恨言论检测任务中样本选择需要社会文化知识
计算与语言
2023-05-19 v4 人工智能
机器学习
摘要
我们介绍了 HATELEXICON，一个面向巴西、德国、印度和肯尼亚国家的蔑称与仇恨言论目标词汇表，以辅助模型的训练与可解释性。我们展示了如何使用我们的词汇表来解释模型预测，表明为分类极端言论而开发的模型在预测时严重依赖目标词。此外，我们提出了一种通过 HATELEXICON 辅助低资源环境下训练样本选择的方法。在少样本学习中，样本的选择对模型性能至关重要。在我们的工作中，我们为德语和印地语模拟了少样本设置，使用 HASOC 数据进行训练，并以多语言 HateCheck (MHC) 作为基准。我们表明，基于我们的词汇表选择样本所得到的模型在 MHC 上的表现优于在随机采样样本上训练的模型。因此，当仅给定少量训练样例时，使用我们的词汇表选择包含更多社会文化信息的样本可带来更好的少样本性能。
引用
@article{arxiv.2304.01890,
title = {Sociocultural knowledge is needed for selection of shots in hate speech detection tasks},
author = {Antonis Maronikolakis and Abdullatif Köksal and Hinrich Schütze},
journal= {arXiv preprint arXiv:2304.01890},
year = {2023}
}