面向音乐信息学的基础模型

本文研究专为音乐信息学定制的基础模型，该领域目前受限于标注数据稀缺和泛化问题。为此，我们对多种基础模型变体进行了深入比较研究，考察模型架构、分词方法、时间分辨率、数据和模型可扩展性等关键决定因素。本研究旨在通过阐明这些独立因素如何促成基础模型在音乐信息学中的成功，弥合现有知识鸿沟。采用严谨的评估框架，我们在音乐信息检索的多种下游任务中评估这些模型的性能，特别关注词元级和序列级分类。我们的结果表明，我们的模型展现出稳健性能，在特定关键指标上超越现有模型。这些发现增进了对音乐信息学中自监督学习的理解，并为开发该领域更有效和通用的基础模型铺平道路。我们模型的预训练版本已公开以促进可复现性和未来研究。