一种生成式方法用于维基百科章节的标题生成与聚类
计算与语言
2020-05-25 v1
摘要
我们通过一项新任务——为维基百科条目生成章节标题——评估了带有各种解码器的 Transformer 编码器在信息组织方面的性能。我们的分析表明，在编码器输出之上包含注意力机制的解码器通过生成抽取式文本获得了高分结果。相比之下，没有注意力的解码器更好地促进了语义编码，并可用于生成章节嵌入。我们还引入了一种新的损失函数，进一步鼓励解码器生成高质量的嵌入。
引用
@article{arxiv.2005.11216,
title = {A Generative Approach to Titling and Clustering Wikipedia Sections},
author = {Anjalie Field and Sascha Rothe and Simon Baumgartner and Cong Yu and Abe Ittycheriah},
journal= {arXiv preprint arXiv:2005.11216},
year = {2020}
}
备注
Accepted to WNGT Workshop at ACL 2020