HarmPot：一种用于评估社交媒体文本线下危害潜力的标注框架

在本文中，我们讨论了标注模式的开发，以构建用于评估社交媒体文本线下危害潜力的数据集。我们将“危害潜力”定义为在线公开帖子导致现实世界物理伤害（即暴力）的潜力。我们认识到现实世界的暴力通常由一系列触发因素引发，这些因素通常结合了多种在线策略和社会环境中预先存在的交叉性裂痕，最终导致针对性的物理暴力，我们不关注任何单一的分裂性方面（即受害者和施暴者的种姓、性别、宗教或其他身份），也不只关注仇恨言论或虚假/错误信息。相反，我们对这类触发因素的交叉性原因的理解，促使我们尝试衡量在线内容的危害潜力，而不论其是否带有仇恨性质。在本文中，我们讨论了一个框架/标注模式的开发，该框架允许用文本的不同方面来标注数据，包括其社会政治基础和说话者的意图（通过语气和情态表达），这些因素共同促使其成为线下危害的触发因素。我们还对我们的框架与一些现有框架进行了比较分析和映射。