中文

推文到新闻的转换:无监督可控文本生成的一项研究

计算与语言 2020-08-24 v1 机器学习

摘要

随着编码器-解码器等近期深度学习模型的出现,文本生成系统已极为流行。在无监督条件下控制生成输出的信息与风格是一项重要且具有挑战性的自然语言处理(NLP)任务。本文中,我们定义了从无平行数据的灾害领域推文集合构建连贯段落的任务。我们通过构建流水线中的两个系统来解决该问题。第一个系统专注于无监督风格迁移,将单条推文转换为新闻语句。第二个系统将第一个系统的输出缝合在一起形成连贯的新闻段落。我们还提出了一种新颖的训练机制,通过将句子拆分为命题并训练第二个系统合并句子。我们创建了由推文集及其等价新闻段落组成的验证集与测试集以进行实证评估。在完全无监督设定下,我们的模型取得了 19.32 的 BLEU 分数,同时成功迁移风格并连接推文形成有意义的新闻段落。

关键词

引用

@article{arxiv.2008.09333,
  title  = {Tweet to News Conversion: An Investigation into Unsupervised Controllable Text Generation},
  author = {Zishan Ahmad and Mukuntha N S and Asif Ekbal and Pushpak Bhattacharyya},
  journal= {arXiv preprint arXiv:2008.09333},
  year   = {2020}
}

备注

Accepted in IJCNN-2020