低资源神经标题生成
计算与语言
2017-08-01 v1
摘要
最近的神经标题生成模型已展现出优异结果,但通常在大规模数据集上训练。我们致力于通过预训练手段提升小数据集上的标题质量。我们提出新方法,能够预训练模型的所有参数并利用所有可用文本,使得困惑度相对改善高达32.4%,ROUGE指标提升2.84分。
引用
@article{arxiv.1707.09769,
title = {Low-Resource Neural Headline Generation},
author = {Ottokar Tilk and Tanel Alumäe},
journal= {arXiv preprint arXiv:1707.09769},
year = {2017}
}
备注
Accepted to EMNLP 2017 Workshop on New Frontiers in Summarization