使用话语上下文感知 BERT 的细粒度信息状态分类
计算与语言
2020-11-03 v2
摘要
先前关于桥接照应识别的工作（Hou et al., 2013a）将该问题转化为学习细粒度信息状态（IS）的一个子任务。然而，这些系统严重依赖大量手工设计的语言学特征。在本文中，我们提出了一种简单的话语上下文感知 BERT 模型用于细粒度 IS 分类。在 ISNotes 语料库（Markert et al., 2012）上，我们的模型在细粒度 IS 分类任务上取得了新的 SOTA 性能，与 Hou et al. (2013a) 相比获得了 4.8 的绝对总体准确率提升。更重要的是，在不使用任何为捕捉桥接现象而设计的复杂手工语义特征的情况下，我们同样展示了桥接照应识别 10.5 个 F1 分数的提升。我们进一步分析了训练后的模型，发现每个 IS 类别最受关注的信号与信息状态的语言学概念高度吻合。
引用
@article{arxiv.2010.14759,
title = {Fine-grained Information Status Classification Using Discourse Context-Aware BERT},
author = {Yufang Hou},
journal= {arXiv preprint arXiv:2010.14759},
year = {2020}
}
备注
accepted at COLING2020. arXiv admin note: substantial text overlap with arXiv:1908.04755