参与、记忆与生成：面向小样本忠实表格到文本生成
计算与语言
2022-03-03 v1
摘要
小样本表格到文本生成是一项利用有限数据撰写流畅且忠实句子以传达表格内容的任务。尽管通过微调强大的预训练语言模型在生成令人印象深刻的流畅句子方面已付出诸多努力，但生成内容的忠实度仍有待提高。为此，本文受人类文本生成过程的启发，提出了一种名为“参与、记忆与生成”（AMG）的新方法。具体而言，AMG（1）采用一种基于表格槽位级别和传统逐词级别注意力的新颖策略，关注多粒度上下文，以利用表格结构和自然语言信息；（2）动态记忆表格槽位分配状态；（3）根据上下文和记忆分配状态生成忠实句子。在 Wiki 数据集三个领域（即人物、歌曲和书籍）上进行的人工评估综合实验表明，与多个最先进的基线模型相比，我们的模型在流畅度和忠实度方面均能生成更高质量的文本。
引用
@article{arxiv.2203.00732,
title = {Attend, Memorize and Generate: Towards Faithful Table-to-Text Generation in Few Shots},
author = {Wenting Zhao and Ye Liu and Yao Wan and Philip S. Yu},
journal= {arXiv preprint arXiv:2203.00732},
year = {2022}
}