BSDAR：神经关键词生成中基于注意力奖励的束搜索解码
计算与语言
2023-10-31 v2 机器学习
机器学习
摘要
本研究主要探讨神经关键词生成中的两个常见解码问题：序列长度偏置与束多样性。为解决这些问题，我们引入了一种基于词级与 n-gram 级奖励函数的束搜索解码策略，以在测试时约束并精炼 Seq2Seq 推理。结果表明，我们简单的方案能够克服算法对较短且近乎相同序列的偏置，从而在生成源文本中存在与不存在的关键词方面显著提升解码性能。
引用
@article{arxiv.1909.09485,
title = {BSDAR: Beam Search Decoding with Attention Reward in Neural Keyphrase Generation},
author = {Iftitahu Ni'mah and Vlado Menkovski and Mykola Pechenizkiy},
journal= {arXiv preprint arXiv:1909.09485},
year = {2023}
}
备注
arxiv preprint. a preliminary study