用于预测对话脱轨的对话建模
计算与语言
2023-03-21 v1
摘要
在线用户之间的对话有时会脱轨,即演变为人身攻击。此类脱轨对网络社区的健康发展具有负面影响。预测正在进行的对话是否可能脱轨的能力,可为对话参与者和版主提供有价值的实时洞察。先前的方法回顾性地预测对话脱轨,无法主动防范脱轨。一些工作尝试在对话展开时进行动态预测,但未能融合多源信息,如对话结构和距脱轨的距离。我们提出了一种基于分层 transformer 的框架,结合话语级和对话级信息以捕捉细粒度上下文语义。我们提出了一种领域自适应预训练目标以整合对话结构信息,以及一种多任务学习方案以利用从各话语到脱轨的距离。我们在两个对话脱轨数据集上对我们的框架进行评估,在脱轨预测的 F1 分数上取得了提升。这些结果证明了融合多源信息的有效性。
引用
@article{arxiv.2303.11184,
title = {Conversation Modeling to Predict Derailment},
author = {Jiaqing Yuan and Munindar P. Singh},
journal= {arXiv preprint arXiv:2303.11184},
year = {2023}
}