他们回应了谁？基于掩码分层 Transformer 的对话结构建模
计算与语言
2019-11-26 v1
摘要
对话结构既有助于理解对话动态的本质，也能为摘要生成等许多下游应用提供特征。在本工作中，我们将对话结构建模问题定义为识别对话中每条话语所回应到的父话语。以往工作通常取一对话语来判断其中一条是否为另一条的父话语。我们认为完整的祖先历史是做出准确预测的重要信息源。因此，我们设计了一种新颖的掩码机制来引导祖先流，并利用 transformer 模型聚合所有祖先以预测父话语。我们的实验在 Reddit 数据集(Zhang, Culbertson, and Paritosh 2017)和 Ubuntu IRC 数据集(Kummerfeld et al. 2019)上进行。此外，我们还报告了基于 Reddit 平台的一个新的更大型语料上的实验，并发布了该数据集。我们表明，所提出的考虑对话祖先历史的模型在所有数据集上均显著优于包括 BERT 模型在内的若干强基线。
引用
@article{arxiv.1911.10666,
title = {Who did They Respond to? Conversation Structure Modeling using Masked Hierarchical Transformer},
author = {Henghui Zhu and Feng Nan and Zhiguo Wang and Ramesh Nallapati and Bing Xiang},
journal= {arXiv preprint arXiv:1911.10666},
year = {2019}
}
备注
AAAI 2020