TaylorGAN：用于提升采样效率的自然语言生成的邻域增强策略更新方法
计算与语言
2020-11-30 v1 机器学习
摘要
基于得分函数的自然语言生成（NLG）方法（如 REINFORCE）通常存在采样效率低和训练不稳定问题。这主要源于离散空间采样的不可微本质，因此这些方法不得不将判别器视为黑盒而忽略梯度信息。为提升采样效率并降低 REINFORCE 的方差，我们提出一种新方法 TaylorGAN，其通过离策略更新与一阶泰勒展开来增强梯度估计。该方法使我们能够以更小的批量从头训练 NLG 模型——无需最大似然预训练，并在质量与多样性的多项指标上优于现有基于 GAN 的方法。源代码与数据可在 https://github.com/MiuLab/TaylorGAN 获取。
引用
@article{arxiv.2011.13527,
title = {TaylorGAN: Neighbor-Augmented Policy Update for Sample-Efficient Natural Language Generation},
author = {Chun-Hsing Lin and Siang-Ruei Wu and Hung-Yi Lee and Yun-Nung Chen},
journal= {arXiv preprint arXiv:2011.13527},
year = {2020}
}
备注
34th Conference on Neural Information Processing Systems (NeurIPS 2020), Vancouver, Canada