Merge to Mix：通过模型合并混合数据集
机器学习
2025-05-23 v1 人工智能
计算与语言
摘要
对于大型模型（LMs）进行微调的数据集混合已成为最大化下游任务性能的关键手段。然而，构建有效的数据集混合通常依赖于启发式方法和反复试验，往往需要多次微调才能达到预期效果。我们提出了一种新方法，，通过模型合并加速数据集混合的构建。模型合并是一种近期技术，通过少量简单算术运算将多个单独微调的 LMs 的能力组合到单个 LM 中。我们的关键洞察是，合并在每个数据集上单独微调的模型，可以有效地作为在整个混合数据集上微调的模型的替代品。Merge to Mix 利用这一洞察，通过无需对每个候选混合数据集进行完整微调来加速数据集混合的选择。我们的实验表明，Merge to Mix 在 LMs 微调的数据集选择方面超越了现有的最先进方法。
引用
@article{arxiv.2505.16066,
title = {Merge to Mix: Mixing Datasets via Model Merging},
author = {Zhixu Silvia Tao and Kasper Vinken and Hao-Wei Yeh and Avi Cooper and Xavier Boix},
journal= {arXiv preprint arXiv:2505.16066},
year = {2025}
}