中文

从信用分配到熵正则化:神经序列预测的两个新算法

计算与语言 2018-05-01 v1 机器学习 机器学习

摘要

本文中,我们研究奖励增强最大似然(RAML)学习中的信用分配问题,并建立了 RAML 的 token 级对应方法与熵正则化强化学习之间的理论等价性。受该联系的启发,我们提出两种序列预测算法:一种以细粒度信用分配扩展 RAML,另一种以系统性熵正则化改进 Actor-Critic。在两个基准数据集上,我们表明所提算法分别优于 RAML 和 Actor-Critic,为序列预测提供了新的替代方案。

关键词

引用

@article{arxiv.1804.10974,
  title  = {From Credit Assignment to Entropy Regularization: Two New Algorithms for Neural Sequence Prediction},
  author = {Zihang Dai and Qizhe Xie and Eduard Hovy},
  journal= {arXiv preprint arXiv:1804.10974},
  year   = {2018}
}

备注

ACL 2018