中文

面向AI作曲家:合成乐谱问题以实现音乐推理

计算与语言 2025-09-29 v2

摘要

增强大语言模型(LLM)和多模态大语言模型(MLLM)理解乐谱的能力,是构建AI作曲家的关键步骤。然而,当前研究缺乏乐谱推理的评估基准和训练数据。灵感来自数学学科,其中简单运算可产生大量可验证的问题,我们提出了一种新方法,将核心音乐理论规则(例如关于节拍和音程的规则)视为程序化函数,以系统性地合成大量且多样化的乐谱推理问题。这种方法允许我们引入一个数据合成框架,用于生成文本和视觉两种模态的可验证乐谱问题,导致Synthetic Sheet Music Reasoning Benchmark(SSMR-Bench)以及互补的训练集。SSMR-Bench上的评估结果突显了推理在解读乐谱中的关键作用,同时也指出了在视觉格式中理解乐谱的持续挑战。通过利用合成数据进行RLVR,所有模型在SSMR-Bench上都实现了显著的性能提升。此外,它们还在之前建立的人工制作基准(如MusicTheoryBench和MMM的音乐子集)上实现了显著的进步。最后,我们的结果表明,增强的推理能力还可以促进音乐创作。

关键词

引用

@article{arxiv.2509.04059,
  title  = {Towards an AI Musician: Synthesizing Sheet Music Problems for Musical Reasoning},
  author = {Zhilin Wang and Zhe Yang and Yun Luo and Yafu Li and Xiaoye Qu and Ziqian Qiao and Haoran Zhang and Runzhe Zhan and Derek F. Wong and Jizhe Zhou and Yu Cheng},
  journal= {arXiv preprint arXiv:2509.04059},
  year   = {2025}
}

备注

34 pages