地平线上的麻烦：在线对话发展过程中的脱轨预测

在线讨论常脱轨为参与者之间的有毒交流。近期工作多聚焦于事后检测反社会行为，即孤立地分析单条评论。为向人工版主提供更及时的警示，系统需要在对话实际变得有毒之前， preemptively 检测出其正走向脱轨。这意味着将脱轨建模为对话的涌现属性，而非孤立的话语级事件。然而，预测涌现的对话属性带来若干固有的建模挑战。首先，由于对话是动态的，预测模型需要捕捉讨论的流动，而非单条评论的属性。其次，真实对话具有未知的时间跨度：它们可能在任意时刻结束或脱轨；因此实用的预测模型需要在对话发展过程中以在线方式评估风险。本工作中，我们引入一种对话预测模型，其学习对话动力的无监督表示，并利用该表示在对话发展中预测未来的脱轨。通过将此模型应用于两个带有反社会事件标注的、多样的在线对话新数据集，我们表明其在预测脱轨方面优于最先进系统。