用于文本摘要的隐式提示微调
计算与语言
2022-12-20 v2
摘要
带有不同控制信号（如长度、关键词等）的提示可用于控制文本摘要。当控制信号可用时，它们能够控制生成摘要的属性，并有可能提高摘要质量（因为给出了更多信息）。遗憾的是，在推理时控制信号并不可用。本文提出 Lotus（Latent Prompt Tuning for Summarization 的简称），这是一个可同时应用于受控与非受控（无控制信号）模式的单一模型。在训练期间，Lotus 使用对比学习目标从带有金标准控制信号的提示中学习隐式提示表示。实验表明，在非受控模式下，Lotus 在四个不同的摘要数据集上持续优于强大的（不可控）摘要模型。我们还展示了可使用带有用户指定控制词元的提示来控制生成的摘要。
引用
@article{arxiv.2211.01837,
title = {Latent Prompt Tuning for Text Summarization},
author = {Yubo Zhang and Xingxing Zhang and Xun Wang and Si-qing Chen and Furu Wei},
journal= {arXiv preprint arXiv:2211.01837},
year = {2022}
}