DialBERT：一种用于对话解缠的分层预训练模型
计算与语言
2021-09-14 v2
摘要
解缠是指在同一信道中同时发生多个对话、而倾听者需判断哪条话语是其将要回复的对话的一部分的问题。我们提出了一种名为 Dialogue BERT（DialBERT）的新模型，该模型在单一消息流中整合局部与全局语义，以解缠混合在一起的对话。我们采用 BERT 在话语层级捕获每对话语间的匹配信息，并使用 BiLSTM 聚合并融入上下文层级信息。仅增加 3% 的参数，基于 F1 分数相较 BERT 取得了 12% 的提升。该模型在 IBM 提出的新数据集上取得了最先进（state-of-the-art）的结果，并以显著优势超越先前工作。
引用
@article{arxiv.2004.03760,
title = {DialBERT: A Hierarchical Pre-Trained Model for Conversation Disentanglement},
author = {Tianda Li and Jia-Chen Gu and Xiaodan Zhu and Quan Liu and Zhen-Hua Ling and Zhiming Su and Si Wei},
journal= {arXiv preprint arXiv:2004.03760},
year = {2021}
}