深度对话中的毒性分析：Reddit 案例研究

近年来，由于易于访问和与他人联系的能力，在线社交媒体日益普及。社交媒体的主要吸引力之一是其匿名性，允许用户分享自己的想法和观点而不必担心受到评判或报复。这种匿名性也使社交媒体容易产生有害内容，需要进行审核以确保负责任和有益的使用。已有多种使用人工智能的方法被用于检测有害内容。然而，仇恨言论的对话与上下文分析仍研究不足。大多数有前景的研究仅分析单个文本，而非支持该文本的整个对话。在本研究中，我们采用基于树的方法来理解用户在公共对话环境中与毒性相关的行为。为此，我们收集了 8 个允许脏话的 Reddit 社区中前 100 篇帖子的帖文和评论区，总计超过 100 万条回复。我们发现，有毒评论会增加在线对话中后续产生有毒评论的可能性。我们的分析还表明，即时上下文在塑造回复方面起着至关重要的作用，而非原始帖子。我们还研究了双方共识的脏话的影响，并观察到其在用户行为和模式方面与非共识脏话存在重叠的相似性。