为未来成功而学习解码
计算与语言
2017-02-07 v2
摘要
我们引入一种简单、通用的策略来操纵神经解码器的行为,使其能够生成具有特定关注属性(例如,预指定长度的序列)的输出。该模型可被视为 actor-critic 模型的一个简单版本,它使用 actor(基于 MLE 的 token 生成策略)和 critic(估计所需属性未来值的值函数)的插值进行决策。我们证明,该方法能够纳入标准神经序列解码器无法处理的多种属性,例如序列长度和反向概率(给定目标时源的概率),此外,当待优化属性为 BLEU 或 ROUGE 分数时,在抽象摘要和机器翻译中带来一致的改进。
引用
@article{arxiv.1701.06549,
title = {Learning to Decode for Future Success},
author = {Jiwei Li and Will Monroe and Dan Jurafsky},
journal= {arXiv preprint arXiv:1701.06549},
year = {2017}
}