从任务专用模型到统一系统：模型合并方法综述

模型合并取得了显著成功，提出了许多创新方法通过结合多个模型来增强能力。然而，由于缺乏用于分类和系统比较分析的统一框架，导致术语和分类不一致，挑战依然存在。同时，随着越来越多的微调模型公开可用，出于隐私考虑或知识产权限制，其原始训练数据通常无法访问。这使得基于共享训练数据的传统多任务学习变得不切实际。在无法直接访问训练数据的场景下，通过合并模型参数来创建一个在多个领域具有广泛泛化能力的统一模型变得至关重要，进一步凸显了模型合并技术的重要性。尽管该领域进展迅速，但仍缺乏总结最新进展并预测未来方向的全面分类法和综述。本文通过建立模型合并方法的新分类法、系统比较不同方法并提供关键发展的概述来填补这些空白。通过提供对这一不断发展领域的结构化视角，我们旨在帮助新手快速掌握该领域的全貌并激发进一步创新。