对话脱轨的动态预测

在线对话有时会变坏，原因可能是系统性的文化差异、意外的误解或纯粹的恶意。自动预测公共在线对话中的脱轨为尽早采取 moderation 行动提供了机会。该领域的先前工作有限，我们在几个方面对其进行了扩展。我们将预训练语言编码器应用于该任务，其性能优于早期方法。我们进一步尝试将该任务的训练范式从静态转变为动态，以延长预测时界。这种方法显示出混合的结果：在高质量数据设置下，可以以F1小幅下降为代价实现更长的平均预测时界；然而，在低质量数据设置下，动态训练会传播噪声并对性能造成严重损害。