基于大语言模型的误information 检测及可解释性
计算与语言
2025-10-23 v1 人工智能
摘要
误information 在在线平台上的快速传播削弱了个体间的信任，并阻碍了知情决策。本文展示了一个可解释且计算效率较高的管道，用于基于 transformer 架构的预训练语言模型（PLMs）检测误information。我们采用两步策略优化RoBERTa 和 DistilBERT：首先冻结主干网络仅训练分类头；随后逐步解冻主干层并应用层级学习率衰减。在两套真实世界基准数据集 COVID Fake News 和 FakeNewsNet GossipCop 上，我们采用统一的预处理和分层划分协议测试所提方法。为确保透明度，我们在 token 级别集成 Local Interpretable Model-Agnostic Explanations（LIME），并在全局特征归因水平引入 SHapley Additive exPlanations（SHAP），以呈现 token 级别的依据和全局特征贡献。结果表明，DistilBERT 在准确率上不逊于 RoBERTa，但所需计算资源显著更少。本工作作出两个关键贡献：（1）定量表明轻量级 PLM 能在保持任务性能的同时大幅降低计算成本；（2）构建了一个可解释管道，能在不牺牲性能的情况下获取可靠的局部和全局依据。结果表明，结合原则化微调与可解释性技术，PLMs 可为可扩展且可信的误information 检测提供有效框架。
引用
@article{arxiv.2510.18918,
title = {Misinformation Detection using Large Language Models with Explainability},
author = {Jainee Patel and Chintan Bhatt and Himani Trivedi and Thanh Thi Nguyen},
journal= {arXiv preprint arXiv:2510.18918},
year = {2025}
}
备注
Accepted for publication in the Proceedings of the 8th International Conference on Algorithms, Computing and Artificial Intelligence (ACAI 2025)