词汇替换：基于预训练复述器的实现
计算与语言
2023-05-16 v1 人工智能
摘要
词汇替换（LS）旨在为句子中目标词寻找恰当替词。近来基于预训练语言模型的LS方法取得显著进展，通过分析法分析目标词的上下文来生成潜在替词。然而，这些方法在生成替词时往往忽视对句子语义的保持。本研究探索如何从复述器生成候选替词，因为复述器生成的释义包含用词变化且保持句子语义。由于无法直接通过常用解码策略生成替词，我们提出两种简单解码策略，在解码过程中聚焦于目标词的变化。实验结果表明，我们的方法在三个基准上优于基于预训练语言模型的现有最优LS方法。
引用
@article{arxiv.2305.08146,
title = {ParaLS: Lexical Substitution via Pretrained Paraphraser},
author = {Jipeng Qiang and Kang Liu and Yun Li and Yunhao Yuan and Yi Zhu},
journal= {arXiv preprint arXiv:2305.08146},
year = {2023}
}