可解释多模态厌女症检测在印英混合语中一个待探索的应用
人工智能
2026-01-14 v1 计算与语言
摘要
数字平台的用户群不断扩大，并充当着通信、商业和连接的中心。然而，这也助长了仇恨言论和厌女症的传播。人工智能模型已成为对抗在线仇恨言论的有效解决方案，但在低资源和混合语种中仍探索不足，且缺乏可解释性。可解释人工智能 (XAI) 能够增强深度学习模型决策的透明度，这对于仇恨言论检测等敏感领域至关重要。在本文中，我们提出了一种多模态、可解释的 Web 应用，用于检测印英混合语文本和模因中的厌女症。该系统利用支持多语言和多模态设置的 SOTA transformer 模型。对于基于文本的厌女症识别，系统在约 4,193 条评论的数据集上采用了 XLM-RoBERTa (XLM-R) 和多语言 Bidirectional Encoder Representations from Transformers (mBERT)。对于基于模因的多模态厌女症识别，系统采用了在约 4,218 个模因数据集上训练的 mBERT + EfficientNet 和 mBERT + ResNET。该系统还使用包括 Shapley Additive Values (SHAP) 和 Local Interpretable Model Agnostic Explanations (LIME) 在内的可解释性技术提供特征重要性得分。该应用旨在作为研究人员和内容审核人员的工具，以促进该领域的进一步研究，打击基于性别的数字暴力，并确保安全的数字空间。该系统已由人类评估员使用 Chatbot Usability Questionnaire (CUQ) 和 User Experience Questionnaire (UEQ) 进行评估，以确定整体可用性。
引用
@article{arxiv.2601.08457,
title = {An Under-Explored Application for Explainable Multimodal Misogyny Detection in code-mixed Hindi-English},
author = {Sargam Yadav and Abhishek Kaushik and Kevin Mc Daid},
journal= {arXiv preprint arXiv:2601.08457},
year = {2026}
}