LenAtten:一种用于文本摘要的有效长度控制单元
计算与语言
2021-06-02 v1
摘要
定长摘要旨在生成具有预设词数或字符数的摘要。近期多数研究将长度信息与词嵌入结合作为循环解码单元的输入,导致长度可控性与摘要质量之间的折衷。本工作中,我们提出一种有效的长度控制单元长度注意力(LenAtten)以打破这一权衡。实验结果表明,LenAtten不仅在长度可控性和ROGUE分数上带来提升,还具有很强的泛化能力。在生成目标长度摘要的任务中,我们的模型在CNN/Daily Mail数据集上长度可控性优于性能最佳的长度可控摘要器732倍。
引用
@article{arxiv.2106.00316,
title = {LenAtten: An Effective Length Controlling Unit For Text Summarization},
author = {Zhongyi Yu and Zhenghao Wu and Hao Zheng and Zhe XuanYuan and Jefferson Fong and Weifeng Su},
journal= {arXiv preprint arXiv:2106.00316},
year = {2021}
}
备注
8 pages, accepted at Findings of ACL 2021 (short)