通过联合学习分割与对应关系实现神经数据到文本生成
计算与语言
2020-05-05 v1 机器学习
摘要
神经注意力模型在数据到文本生成任务中取得了巨大成功。尽管通常擅长生成流畅的文本,但它存在信息缺失、重复和“幻觉”的问题。由于神经注意力架构的黑盒性质,以系统化的方式避免这些问题并非易事。为解决这一问题,我们提出显式地将目标文本分割为片段单元,并将其与对应的数据对齐。分割与对应关系作为潜变量联合学习,无需任何人工标注。我们进一步施加一个软统计约束以正则化片段粒度。所得架构保持了与神经注意力模型相同的表达能力,同时能够生成完全可解释的输出,且计算代价降低数倍。在 E2E 和 WebNLG 基准上,我们表明所提出的模型一致地优于其神经注意力对应模型。
引用
@article{arxiv.2005.01096,
title = {Neural Data-to-Text Generation via Jointly Learning the Segmentation and Correspondence},
author = {Xiaoyu Shen and Ernie Chang and Hui Su and Jie Zhou and Dietrich Klakow},
journal= {arXiv preprint arXiv:2005.01096},
year = {2020}
}
备注
Accepted at ACL 2020