CMA-R:用于解释谣言检测的因果中介分析
计算与语言
2024-02-14 v1 人工智能
摘要
我们应用因果中介分析来解释 Twitter 上谣言检测神经模型的决策过程。在输入和网络层面的干预揭示了推文和单词对模型输出的因果影响。我们发现我们的方法 CMA-R——用于谣言检测的因果中介分析——能够识别出解释模型预测的显著推文,并且在确定故事真实性的关键推文上与人类判断表现出强烈的一致性。CMA-R 还能进一步突出显著推文中具有因果影响力的单词,为这些黑盒谣言检测系统提供了另一层可解释性与透明度。代码可在以下网址获取:https://github.com/ltian678/cma-r。
引用
@article{arxiv.2402.08155,
title = {CMA-R:Causal Mediation Analysis for Explaining Rumour Detection},
author = {Lin Tian and Xiuzhen Zhang and Jey Han Lau},
journal= {arXiv preprint arXiv:2402.08155},
year = {2024}
}
备注
9 pages, 7 figures, Accepted by EACL 2024 Findings