Plan-then-Seam：迈向高效的表格到文本生成
计算与语言
2023-03-01 v2
摘要
表格到文本生成旨在自动生成文本以帮助人们便捷地获取表格中的关键信息。近期工作显式地将生成过程分解为内容规划与表层生成两个阶段，分别采用两个自回归网络。然而，由于自回归解码的不可并行本质以及两个网络的冗余参数，它们计算代价高昂。本文提出首个完全非自回归的表格到文本模型（Plan-then-Seam, PTS），其使用单一网络并行产生输出。PTS首先通过新颖的再思考指针预测器写出并校准待生成内容的规划，然后将该规划作为上下文进行衔接解码以生成描述。这两步共享参数并迭代执行，以在保持并行解码的同时捕捉词元间依赖。在两个公开基准上的实验表明，PTS在推理时间上实现3.0~5.6倍加速，减少50%参数，同时相对于强大的两阶段表格到文本竞争者保持至少可比的性能。
引用
@article{arxiv.2302.05138,
title = {Plan-then-Seam: Towards Efficient Table-to-Text Generation},
author = {Liang Li and Ruiying Geng and Chengyang Fang and Bing Li and Can Ma and Binhua Li and Yongbin Li},
journal= {arXiv preprint arXiv:2302.05138},
year = {2023}
}
备注
Accepted to Findings of EACL 2023