面向示例引导复述生成的对比例表示学习
计算与语言
2021-09-06 v1 机器学习
摘要
示例引导复述生成(EGPG)旨在生成符合给定示例风格且包含源句内容信息的目标句。本文提出一种新方法,目标是学习更好的风格与内容表示。该方法主要受近期对比学习成功的启发,后者已在无监督特征提取任务中展现出威力。其思路是在训练时考虑两个问题特征来设计关于内容和风格的两个对比损失。一个特征是目标句与源句共享相同内容,第二个特征是目标句与示例共享相同风格。这两个对比损失被纳入通用的编码器-解码器范式。在 QQP-Pos 和 ParaNMT 两个数据集上的实验证明了我们所提对比损失的有效性。
引用
@article{arxiv.2109.01484,
title = {Contrastive Representation Learning for Exemplar-Guided Paraphrase Generation},
author = {Haoran Yang and Wai Lam and Piji Li},
journal= {arXiv preprint arXiv:2109.01484},
year = {2021}
}
备注
Findings of EMNLP 2021