PromptSum：参数高效的可控抽取式摘要
计算与语言
2023-08-08 v1
摘要
提示微调（PT）是一种参数高效技术，仅微调额外的提示嵌入而保持骨干预训练语言模型（PLM）冻结，已在语言理解任务中展现出有前景的结果，尤其在低资源场景下。然而，适用于摘要等生成任务的有效提示设计方法仍然匮乏。与此同时，通过指令（离散提示）引导的摘要能在摘要生成中实现高质量与可控性的双重理想目标。为在参数高效、数据高效和可控性三重条件下达成强劲的摘要性能，我们提出PromptSum，一种将PT与多任务目标及离散实体提示相结合的抽取式摘要方法。我们的模型在流行的抽取式摘要基准上取得了具竞争力的ROUGE结果，同时通过实体实现了强可控性，而仅微调了少几个数量级的参数。
引用
@article{arxiv.2308.03117,
title = {PromptSum: Parameter-Efficient Controllable Abstractive Summarization},
author = {Mathieu Ravaut and Hailin Chen and Ruochen Zhao and Chengwei Qin and Shafiq Joty and Nancy Chen},
journal= {arXiv preprint arXiv:2308.03117},
year = {2023}
}