中文

MIN-Merging:合并重要神经元以进行模型合并

机器学习 2025-10-28 v2 人工智能

摘要

近期深度学习进展推动了跨各类领域的开源模型激增。尽管模型合并提供了一种结合优势的方法,但现有方法常因参数冲突导致在特定领域任务上性能下降。我们提出 MIN-Merging,一种基于路由器的框架,通过选择性合并最重要的神经元来减少此类冲突。在计算机视觉(CV)和自然语言处理(NLP)基准测试上进行的大量实验表明,MIN-Merging 在特定领域任务上实现持续提升,同时保留了预训练模型在特定领域外任务上的泛化能力。这些结果凸显了其作为解决模型合并中参数冲突问题的实用解决方案的有效性。

关键词

引用

@article{arxiv.2510.17890,
  title  = {MIN-Merging: Merge the Important Neurons for Model Merging},
  author = {Yunfei Liang},
  journal= {arXiv preprint arXiv:2510.17890},
  year   = {2025}
}

备注

Withdrawn due to an error in Section 3; a corrected version will be posted soon