BERT 模型如何有效地解读语境并检测孔玛文暴力文本？
计算与语言
2025-06-25 v1
摘要
网络仇恨的传播导致社区暴力，激化了 various religious, ethnic, and social groups 之间的攻击与冲突，构成对社会和谐的严重威胁。尽管此议题至关重要，但在现有研究中，社区暴力文本的分类仍属探索不足的领域。本研究旨在提升对煽动社区暴力文本的检测准确率，具体聚焦于来自社交媒体平台的孔玛文文本数据。我们引入了针对该任务微调的 BanglaBERT 模型，实现了 0.60 的宏平均 F1 分数。为解决数据不平衡问题，本研究通过添加 1,794 条新实例扩充了数据集，从而促成了微调集成模型的开发与评估。该集成模型展现出 improved performance，实现了 0.63 的宏平均 F1 分数，凸显了其在该领域的有效性。除定量性能指标外，定性分析揭示了模型在理解语境时存在困难的案例，尽管预测置信度较高，仍可能出现误分类。通过分析词语间的余弦相似度，我们识别出了针对预训练 BanglaBERT 模型的局限性，尤其在区分 closely related communal 与 non-communal 术语方面存在不足。为进一步解释模型的决策逻辑，我们应用了 LIME 技术，帮助揭示了模型在理解语境方面所困惑的具体区域，从而导致分类错误。这些发现凸显了 NLP 与可解释性工具在减少线上社区暴力方面的潜力。我们的工作为社区暴力检测领域的研究积累提供了基础，为未来旨在提升技术精度并发挥社会影响力的研究提供了展望。
引用
@article{arxiv.2506.19831,
title = {How Effectively Can BERT Models Interpret Context and Detect Bengali Communal Violent Text?},
author = {Abdullah Khondoker and Enam Ahmed Taufik and Md. Iftekhar Islam Tashik and S M Ishtiak Mahmud and Farig Sadeque},
journal= {arXiv preprint arXiv:2506.19831},
year = {2025}
}