人在回路的虚假信息检测：立场、情感还是其他？
计算与语言
2021-11-10 v1 计算机与社会
机器学习
摘要
近来，政治与疫情都为开发机器学习赋能的虚假信息（亦称假新闻）检测算法提供了充分动机。现有文献主要关注全自动化情形，但所得技术无法在军事应用所需的多样主题、来源与时间尺度上可靠检测虚假信息。然而，通过利用已有的分析人员作为人在回路，情感分析、基于方面的情感分析与立场检测等经典机器学习技术成为可用于部分自动化虚假信息检测系统的合理方法。本文旨在确定这些技术中哪一种最适于该目的，以及每种技术如何能最佳地用于此目标。每种方法均使用相同规模的训练数据集与几乎相同的神经架构（以 BERT transformer 作为词嵌入器，其后接单层前馈层），随后在情感与立场专用数据集上测试，以建立每种方法执行其他任务能力的基线。使用四个与 COVID-19 虚假信息相关的不同数据集测试每种技术检测未出现在训练集中的主题上虚假信息的能力。这些测试的定量与定性结果随后用于提供关于实践中如何最佳运用这些技术的见解。
引用
@article{arxiv.2111.05139,
title = {Human-in-the-Loop Disinformation Detection: Stance, Sentiment, or Something Else?},
author = {Alexander Michael Daniel},
journal= {arXiv preprint arXiv:2111.05139},
year = {2021}
}
备注
15 pages + references. Presented at the 26th International Command and Control Research and Technology Symposium, 18 October 2021