SAGE-Music：基于属性专用键值头共享的低延迟符号音乐生成
声音
2025-10-16 v2 人工智能
机器学习
音频与语音处理
摘要
低延迟符号音乐生成对于实时即兴创作和人类-AI协作至关重要。然而，现有的基于Transformer的模型在推理速度和音乐质量之间存在权衡。传统的加速技术如嵌入池化显著降低质量，而近期提出的字节配对编码（BPE）方法虽在单轨钢琴数据上有效，但在多轨设置中表现大幅下降——我们的分析已揭示这一问题。我们提出属性专用键值头共享（AS-KVHS）技术，适用于音乐的结构化符号表示，实现约30%的推理加速，仅introdu negligible（约0.4%）的质量下降，客观评估中呈现轻微提升。我们的主要贡献在于：（1）首次系统性研究BPE在多轨符号音乐中的可推广性；（2）引入AS-KVHS实现低延迟符号音乐生成。除此之外，我们还发布了SAGE-Music——一个在生成质量上达到或超越当前最先进模型的开源基准。
引用
@article{arxiv.2510.00395,
title = {SAGE-Music: Low-Latency Symbolic Music Generation via Attribute-Specialized Key-Value Head Sharing},
author = {Jiaye Tan and Haonan Luo and Linfeng Song and Shuaiqi Chen and Yishan Lyu and Zian Zhong and Roujia Wang and Daniel Jiang and Haoran Zhang and Jiaming Bai and Haoran Cheng and Q. Vera Liao and Hao-Wen Dong},
journal= {arXiv preprint arXiv:2510.00395},
year = {2025}
}
备注
Withdrawn after identifying that results in Section 5 require additional re-analysis before public dissemination