关注正确上下文：用于内容可控摘要的即插即用模块
计算与语言
2022-12-22 v1
摘要
内容可控摘要生成聚焦于给定控制信号的摘要。由于该任务缺乏大规模训练语料，我们提出即插即用模块 RelAttn，将任意通用摘要器适配到内容可控摘要任务。RelAttn 首先识别源文档中的相关内容，然后通过直接引导注意力权重使模型关注正确上下文。我们进一步应用一种无监督在线自适应参数搜索算法，在零样本设定下确定控制程度，而在少样本设定下此类参数被学习得到。通过将模块应用于三种骨干摘要模型，实验表明我们的方法有效提升了所有摘要器，并在零样本和少样本设定下均优于基于前缀的方法和一种广泛使用的即插即用模型。值得注意的是，在需要更多控制的场景中观察到更大的收益。
引用
@article{arxiv.2212.10819,
title = {Attend to the Right Context: A Plug-and-Play Module for Content-Controllable Summarization},
author = {Wen Xiao and Lesly Miculicich and Yang Liu and Pengcheng He and Giuseppe Carenini},
journal= {arXiv preprint arXiv:2212.10819},
year = {2022}
}