中文

一种基于词元级 CNN 的句子压缩方法

计算与语言 2020-09-24 v1

摘要

句子压缩是一项自然语言处理(NLP)任务,旨在缩短原始句子并保留其关键信息。它的应用可惠及诸多领域,例如可构建语言教育工具。然而,当前方法大多基于循环神经网络(RNN)模型,存在处理速度慢的问题。为解决该问题,本文提出一种词元级卷积神经网络,即一种基于 CNN 的模型,结合预训练的来自 Transformers 的双向编码器表示(BERT)特征,用于基于删除的句子压缩。我们还将我们的模型与基于 RNN 的模型以及微调 BERT 进行了比较。尽管在相同输入下某个基于 RNN 的模型略微优于其他模型,我们的基于 CNN 的模型比基于 RNN 的方法快十倍。

关键词

引用

@article{arxiv.2009.11260,
  title  = {A Token-wise CNN-based Method for Sentence Compression},
  author = {Weiwei Hou and Hanna Suominen and Piotr Koniusz and Sabrina Caldwell and Tom Gedeon},
  journal= {arXiv preprint arXiv:2009.11260},
  year   = {2020}
}