黑盒生成的 Posterior 控制

文本生成通常需要服从特定任务规则的高精度输出。这种细粒度控制难以用现成的深度学习模型来强制实现。在本工作中，我们考虑通过结构化潜变量方法学习得到的离散控制状态来增强神经生成模型。在此表述下，特定任务的知识可以通过一系列丰富的后验约束编码进模型，并得到有效训练。该方法允许用户在基于先验知识锚定内部模型决策的同时，不牺牲神经生成模型的表征能力。实验考察了该方法在文本生成中的应用。我们发现该方法优于标准基准，同时还提供了细粒度控制。