CaPE：用于减少抽象式摘要中幻觉的对比参数集成方法
计算与语言
2022-05-23 v2
摘要
幻觉是神经抽象式摘要模型的已知问题。近期研究表明，幻觉程度可能取决于训练数据中的错误。本工作中，我们提出一种称为对比参数集成（Contrastive Parameter Ensembling, CaPE）的新方法，以更有效地利用训练数据，借助训练样本中噪声的差异来减少幻觉。我们首先使用不同的自动事实性度量从训练数据中选出干净子集与含噪子集。然后，将在所有训练样本上训练的基摘要模型分别在干净（含噪）子集上微调，得到专家（反专家）模型。最后，我们利用专家模型与反专家模型参数之差调整基模型参数，将基模型引向专家模型并远离反专家模型。实验结果表明，CaPE 在不同自动事实性度量和人工评估上均提升性能，在 XSUM 和 CNN/DM 数据集上摘要级依存弧蕴含准确率最大分别提升 16.69% 和 15.78%。事实性性能的提升并未损害如 ROUGE 等其他信息性度量的表现。
引用
@article{arxiv.2110.07166,
title = {CaPE: Contrastive Parameter Ensembling for Reducing Hallucination in Abstractive Summarization},
author = {Prafulla Kumar Choubey and Alexander R. Fabbri and Jesse Vig and Chien-Sheng Wu and Wenhao Liu and Nazneen Fatema Rajani},
journal= {arXiv preprint arXiv:2110.07166},
year = {2022}
}