危险之声：检测文本中的危害信息

情感分析等情感相关指标常从文本中提取，以更好地理解人机交互特征，包括社交媒体中的情况。然而，往往被忽视的指标是是否存在或缺失关于危害或风险的信息。本文构建了一个新模型，用于检测文本中的危害信息，我们基于一组新标注的帖子训练了该模型。我们表明，该模型表现良好(优于诸如词典方法等)，且提取的危害信息与常见指标之间相关性不强。为展示工具的实用性，我们将其应用于讨论重要地缘政治事件的两个 X 帖子数据集，即以色列-哈马斯冲突和 2022 年法国大选。在两种情况下，我们发现关于危害信息，特别是关于冲突信息，相当常见。我们从每个数据集中提取与信息活动相关的帖子，以探讨危害信息如何被用于试图影响地缘政治事件。我们发现，代表弱方立场的非自然帖子常讨论对平民的危害，可能是为此寻求援助。此外，这些危害被提及的频率与自然帖子存在显著差异，可能反映信息运营商为战略性目的对给定地缘政治事件进行框架化努力的结果。这些结果是探索信息战环境中危险性的第一步。该模型以 Python 软件包的形式分享，以帮助研究人员和记者分析危险内容。该模型及其数据与标注均可在以下仓库中获得：https://github.com/KeithBurghardt/DetectHazards。