基于图神经网络的可解释伊斯兰仇恨言论识别
计算与语言
2024-12-03 v4 人工智能
信息检索
机器学习
社会与信息网络
摘要
在线平台上的伊斯兰恐惧症语言助长不容忍，使得检测与消除此类内容对促进和谐至关重要。传统仇恨言论检测模型依赖分词、词性标注与编码器-解码器模型等 NLP 技术。然而，图神经网络（GNN）能够利用数据点间关系，提供更有效的检测与更强的可解释性。在本工作中，我们将言论表示为节点，并依据其语境与相似性以边连接来构建图。本研究引入一种使用 GNN 识别并解释针对伊斯兰的仇恨言论的新范式。我们的模型利用 GNN，通过预训练 NLP 生成的词嵌入连接文本，以理解仇恨言论的语境与模式，在实现最先进性能并提升检测准确率的同时提供有价值的解释。这凸显了 GNN 在对抗在线仇恨言论及营造更安全、更具包容性的在线环境中的潜力。
引用
@article{arxiv.2311.04916,
title = {Explainable Identification of Hate Speech towards Islam using Graph Neural Networks},
author = {Azmine Toushik Wasi},
journal= {arXiv preprint arXiv:2311.04916},
year = {2024}
}
备注
Accepted in: (i) NeurIPS 2023 : Muslims in ML Workshop (Non-archival) (https://www.musiml.org/schedule/#:~:text=Azmine%20Toushik%20Wasi) (ii) EMNLP 2024 : NLP for Positive Impact Workshop (Archival; ACL Anthology: https://aclanthology.org/2024.nlp4pi-1.23/)