中文

一箭多靶:探测 LLMs 的多属性可控文本摘要

计算与语言 2024-11-05 v1

摘要

文本摘要是自然语言处理(NLP)领域的一项成熟任务。然而,针对用户需求的可控摘要研究直到最近才受到关注。虽然已有若干工作探索文本摘要中的可控性,但多属性可控摘要(MACS)的研究仍然有限。本项工作通过大语言模型(LLMs)的视角来解决这一空白,使用各种学习范式,特别是低秩适配器。我们实验了不同的流行适配器微调策略,以评估所得模型在保留与多个可控属性相关提示和模式方面的有效性。此外,我们提出并评估了一种新颖的层次化适配器融合技术,以整合来自两个不同可控属性的学习。随后,我们呈现了研究发现,讨论了遇到的挑战,并提出了推进 MACS 任务的潜在方向。

关键词

引用

@article{arxiv.2411.01213,
  title  = {One Arrow, Many Targets: Probing LLMs for Multi-Attribute Controllable Text Summarization},
  author = {Tathagato Roy and Rahul Mishra},
  journal= {arXiv preprint arXiv:2411.01213},
  year   = {2024}
}