利用可解释人工智能与命名实体替换增强虚假信息检测
计算与语言
2025-02-10 v1
摘要
虚假信息的自动检测是自然语言处理领域的一项重大挑战。该任务涉及一个多层面的社会与传播问题，需要超越仅通过数据驱动算法识别通用语言模式的方法。在本研究中，我们假设文本分类方法无法捕捉虚假信息的细微差别，且其决策常基于冗余特征。因此，我们应用一种事后可解释性方法（SHAP，SHapley Additive exPlanations）来识别对分类模型有高影响的虚假元素。我们的发现表明，非信息性元素（如URL和表情符号）应被移除，而命名实体（如卢旺达）应在训练前进行伪匿名化处理，以避免模型偏差并提高其泛化能力。我们使用内部数据集和外部数据集，在应用扩展的数据预处理和命名实体替换前后对该方法进行了评估。结果表明，我们的方案在外部测试数据上将一种虚假信息分类方法的性能平均提升了65.78%，且内部测试性能未出现显著下降。
引用
@article{arxiv.2502.04863,
title = {Enhancing Disinformation Detection with Explainable AI and Named Entity Replacement},
author = {Santiago González-Silot and Andrés Montoro-Montarroso and Eugenio Martínez Cámara and Juan Gómez-Romero},
journal= {arXiv preprint arXiv:2502.04863},
year = {2025}
}