从信用分配到熵正则化:神经序列预测的两个新算法
计算与语言
2018-05-01 v1 机器学习
机器学习
摘要
本文中,我们研究奖励增强最大似然(RAML)学习中的信用分配问题,并建立了 RAML 的 token 级对应方法与熵正则化强化学习之间的理论等价性。受该联系的启发,我们提出两种序列预测算法:一种以细粒度信用分配扩展 RAML,另一种以系统性熵正则化改进 Actor-Critic。在两个基准数据集上,我们表明所提算法分别优于 RAML 和 Actor-Critic,为序列预测提供了新的替代方案。
引用
@article{arxiv.1804.10974,
title = {From Credit Assignment to Entropy Regularization: Two New Algorithms for Neural Sequence Prediction},
author = {Zihang Dai and Qizhe Xie and Eduard Hovy},
journal= {arXiv preprint arXiv:1804.10974},
year = {2018}
}
备注
ACL 2018