中间向外解码

尽管序列到序列模型几乎无处不在，但其缺乏多样性且无法被外部控制的问题仍具挑战性。在本文中，我们推测序列生成模型的一个根本性缺陷在于其严格从左至右的解码方式，这意味着较早生成的输出值对较晚生成的输出值有深远影响。为解决该问题，我们提出了一种新颖的中间向外解码器架构，该架构从一个初始中间词开始，并同时向两个方向扩展序列。为促进信息流动并保持一致的解码，我们引入了双重自注意力机制，使我们能够对输出间的复杂依赖关系建模。我们在视频字幕任务以及一个合成序列去噪任务上展示了模型的性能。我们的中间向外解码器在去噪上取得显著改进，在视频字幕任务上具有竞争性的表现，同时可量化地改善字幕多样性。此外，我们进行了定性分析，证明我们能有效控制解码器的生成过程。