一种用于事件触发上下文感知故事生成的跨注意力增强模型
计算与语言
2023-11-21 v1
摘要
尽管近期取得了进展，现有故事生成系统仍难以有效融入上下文与事件特征，而这些特征极大影响生成叙事的质量。为应对这些挑战，我们引入了一种新颖的神经生成模型 EtriCA，该模型通过采用跨注意力机制将上下文特征经残差映射投射到事件序列上，从而增强生成故事的相关性与连贯性。这种特征捕获机制使我们的模型在故事生成过程中能更有效地利用事件间的逻辑关系。为进一步增强所提模型，我们在大规模书籍语料上采用后训练框架进行知识增强（KeEtriCA）。这使 EtriCA 能适应更广泛的数据样本。这带来了自动指标约 5% 的提升以及人工评估超 10% 的提升。我们开展了大量实验，包括与最先进（SOTA）基线模型比较，以评估我们的框架在故事生成上的性能。实验结果涵盖自动指标与人工评估，均证明了我们的模型优于现有最先进基线。这些结果凸显了我们的模型在利用上下文与事件特征提升生成叙事质量方面的有效性。
引用
@article{arxiv.2311.11271,
title = {A Cross-Attention Augmented Model for Event-Triggered Context-Aware Story Generation},
author = {Chen Tang and Tyler Loakman and Chenghua Lin},
journal= {arXiv preprint arXiv:2311.11271},
year = {2023}
}
备注
Submitted to CSL