通过基于半马尔可夫 CRF 的神经节标题生成提升人类文本理解
计算与语言
2019-04-16 v1
摘要
长文档中短小章节的标题通过引导读者关注相关段落并提供有助于理解文档推进过程的锚点来辅助读者。章节标题的积极效果在阅读能力较弱的读者群体(例如标注文本资源有限的社区)中测量时更为显著。因此,我们旨在开发在低资源环境下生成章节标题的技术。具体地,我们提出了一种抽取式章节标题生成流水线:先选择最显著的句子,再应用基于删除的压缩。我们的压缩方法基于一个半马尔可夫条件随机场(Semi-Markov Conditional Random Field),其利用 ELMo 或 BERT 等无监督词表示,从而无需复杂的编码器-解码器架构。结果表明,该方法在高资源下与序列到序列模型性能相当,而在低资源下大幅优于后者。在一项跨不同阅读能力受试者的用户研究中,我们发现我们的章节标题在保持相近准确率的同时提升了完成理解任务的速度。
引用
@article{arxiv.1904.07142,
title = {Improving Human Text Comprehension through Semi-Markov CRF-based Neural Section Title Generation},
author = {Sebastian Gehrmann and Steven Layne and Franck Dernoncourt},
journal= {arXiv preprint arXiv:1904.07142},
year = {2019}
}
备注
NAACL 2019