Darwin Family：面向语言模型推理免训练扩展的 MRI 信任加权进化合并
神经与进化计算
2026-05-15 v1 人工智能
摘要
我们提出 Darwin Family，一个通过无梯度权重空间重组实现大语言模型免训练进化合并的框架。我们探讨是否可以通过重组现有检查点中已编码的潜在能力，在不进行额外训练的情况下提升前沿级推理性能。Darwin 引入了三个关键理念：(i) 14 维自适应合并基因组，实现细粒度的组件级与块级重组；(ii) MRI 信任融合，通过可学习的信任参数自适应地平衡诊断层重要性信号与进化搜索；(iii) 架构映射器，支持异构模型家族间的跨架构繁育。在实验中，旗舰版 Darwin-27B-Opus 在 GPQA Diamond 上取得 86.9% 的准确率，在 1,252 个评估模型中排名第 6，且在没有任何基于梯度的训练下超越了其完全训练的基础模型。在 4B 到 35B 参数的规模范围内，Darwin 模型始终优于其父代，支持递归多代进化，并实现了结合 Transformer 与 Mamba 组件的免训练进化合并。总而言之，Darwin Family 表明，诊断引导的进化合并是面向以推理为中心的语言模型的一种可替代高昂后训练流水线的实用且可复现的方案。
引用
@article{arxiv.2605.14386,
title = {Darwin Family: MRI-Trust-Weighted Evolutionary Merging for Training-Free Scaling of Language-Model Reasoning},
author = {Taebong Kim and Youngsik Hong and Minsik Kim and Sunyoung Choi and Jaewon Jang and Junghoon Shin and Minseo Kim},
journal= {arXiv preprint arXiv:2605.14386},
year = {2026}
}
备注
NeurIPS 2026 submission. 18 pages including appendix