用于抽象摘要中领域泛化的领域对齐前缀平均
计算与语言
2023-05-30 v2 人工智能
摘要
领域泛化迄今在抽象摘要中仍是一个未被充分探索的方向。此外，现有大多数领域泛化工作都采用复杂的训练算法。在本文中，我们提出一种轻量的、基于权重平均的领域对齐前缀平均（DAPA）方法，用于抽象摘要的领域泛化。给定若干源领域，我们的方法首先为每个源领域训练一个前缀。这些源前缀为少量目标领域文档生成摘要。所生成摘要与其对应文档的相似度被用于计算平均源前缀所需的权重。在 DAPA 中，前缀调优实现了轻量微调，而权重平均实现了计算高效的新增源领域集成。在四个不同摘要领域上的评估表明，DAPA 取得了与基线相当或更好的性能，证明了其前缀平均方案的有效性。
引用
@article{arxiv.2305.16820,
title = {Domain Aligned Prefix Averaging for Domain Generalization in Abstractive Summarization},
author = {Pranav Ajit Nair and Sukomal Pal and Pradeepika Verma},
journal= {arXiv preprint arXiv:2305.16820},
year = {2023}
}
备注
13 pages, Accepted to ACL 2023 Findings