面向定义生成的细粒度对比学习
计算与语言
2022-10-04 v1
摘要
近年来，基于预训练 Transformer 的模型在定义生成（DG）任务中取得了巨大成功。然而，先前的编码器-解码器模型缺乏有效的表示学习以包含给定词的完整语义成分，从而导致生成的定义不够具体。为解决该问题，我们提出了一种新颖的对比学习方法，鼓励模型从定义序列编码中捕获更细致的语义表示。根据自动与人工评估，在三个主流基准上的实验结果表明，与若干最先进（SOTA）模型相比，所提方法能够生成更具体且高质量的定义。
引用
@article{arxiv.2210.00543,
title = {Fine-grained Contrastive Learning for Definition Generation},
author = {Hengyuan Zhang and Dawei Li and Shiping Yang and Yanran Li},
journal= {arXiv preprint arXiv:2210.00543},
year = {2022}
}
备注
Accepted by AACL-IJCNLP Main Conference 2022