用于自动创作的参数共享解码器对

自动创作是过去几年中一个活跃且吸引人的研究领域，人们投入了大量精力来发明更鲁棒的模型以解决此问题。随着深度学习技术的快速发展，一些基于深度神经网络的语言模型正逐渐占据主导地位。值得注意的是，Transformer 结构已被证明在文本建模中非常高效且有前景。然而，基于 Transformer 的语言模型通常包含大量参数，模型尺寸通常太大，无法在一些存储受限的应用中投入生产。在本文中，我们提出了一种参数共享解码器对，它大幅减少了参数数量，同时保持了生成可理解和合理作品的能力。我们展示了由所提出模型创作的作品，以证明该模型的有效性。