利用说服性写作策略解释与检测健康 misinformation
计算与语言
2024-04-11 v4 人工智能
机器学习
摘要
如今,misinformation 的传播是社会中的突出问题。我们的研究聚焦于通过分析文本文档中采用的说服策略来辅助 misinformation 的自动识别。我们引入了一种涵盖常见说服性写作策略的新标注方案以实现该目标。此外,我们提供了一个健康 misinformation 数据集,由专家使用我们所提方案进行了细致标注。我们的贡献包括提出一项新任务,即用其说服性写作策略类型标注文本片段。我们评估了采用 BERT 系列预训练语言模型与 GPT 系列生成式大语言模型(LLM)的微调与提示工程技术,将说服策略作为额外信息源。我们评估了在 misinformation 检测中将说服策略用作中间标签的效果。结果表明,这些策略提升了准确率并改善了 misinformation 检测模型的可解释性。说服策略可作为有价值的洞见与解释,使其他模型甚至人类能就信息的可信度做出更明智的决策。
引用
@article{arxiv.2211.05985,
title = {Using Persuasive Writing Strategies to Explain and Detect Health Misinformation},
author = {Danial Kamali and Joseph Romain and Huiyi Liu and Wei Peng and Jingbo Meng and Parisa Kordjamshidi},
journal= {arXiv preprint arXiv:2211.05985},
year = {2024}
}
备注
Accepted at LREC-CoLING-2024