对比学习增强的作者风格标题生成
计算与语言
2022-11-08 v1
摘要
标题生成是为给定文章生成恰当标题的任务，可进一步用于机器辅助写作或提升点击率。当前工作仅在生成中使用文章本身，未考虑标题的写作风格。本文提出一种新颖的 Seq2Seq 模型 CLH3G（Contrastive Learning enhanced Historical Headlines based Headline Generation，基于历史标题与对比学习增强的标题生成），该模型可利用作者过去所写文章的历史标题来改进当前文章的标题生成。通过考虑历史标题，我们能将作者的文体特征整合进模型，生成不仅适合文章、且与作者风格一致的标题。为高效学习作者文体特征，我们进一步为模型编码器引入一项基于对比学习的辅助任务。此外，我们提出两种方法，在生成过程中利用所学文体特征引导指针机制与解码器。实验结果表明，同一用户的历史标题能显著提升标题生成效果，且对比学习模块与两种风格特征融合方法均能进一步提升性能。
引用
@article{arxiv.2211.03305,
title = {Contrastive Learning enhanced Author-Style Headline Generation},
author = {Hui Liu and Weidong Guo and Yige Chen and Xiangyang Li},
journal= {arXiv preprint arXiv:2211.03305},
year = {2022}
}
备注
Accepted at EMNLP 2022