Theme Transformer：基于主题条件化 Transformer 的符号音乐生成

基于注意力的 Transformer 模型已日益用于自动音乐生成。为以用户指定序列对这类模型的生成过程进行条件化，一种流行方法是将该条件序列作为引子序列，并让 Transformer 解码器生成续写。然而，这种基于提示的条件化无法保证条件序列在生成续写中得到发展甚至简单重复。本文提出一种替代性的条件化方法，称为基于主题的条件化，其显式训练 Transformer 将条件序列视为主题素材，并须在生成结果中多次显现。这通过两项主要技术贡献实现。首先，我们提出一种基于深度学习的方法，利用对比表示学习与聚类从训练数据中的音乐片段自动检索主题素材。其次，我们提出一种新颖的门控并行注意力模块，用于序列到序列（seq2seq）编码器/解码器架构，以在 Transformer 解码器的生成过程中更有效地考量所给条件主题素材。我们报告了对所提 Theme Transformer 变体及常规基于提示的基线的客观与主观评估，表明我们的最佳模型能在某种程度上生成具有重复及给定条件合理变体的复调流行钢琴音乐。