Bohdi：基于自动数据探索的异构 LLM 融合
机器学习
2025-10-30 v4
摘要
异构大型语言模型（LLM）融合将来自不同架构的多个源 LLM 的优势整合到目标 LLM 中，计算开销低。虽然前景可期，但现有方法存在两个主要局限：1）依赖有限域的真实数据进行知识融合，阻止目标 LLM 全面获取跨多样域的知识；2）固定的数据分配比例跨域，无法根据目标 LLM 在不同域的能力变化动态调整，导致能力不平衡。为克服这些限制，我们提出 Bohdi，一个仅使用合成数据的异构 LLM 融合框架。通过将知识域组织成层次化树结构，Bohdi 实现自动域探索和跨域数据生成，多模型协作从而全面提取源 LLM 的知识。将域扩展和数据采样比例分配在知识树上形式化为层次化多臂老虎机问题，Bohdi 利用设计的 DynaBranches 机制根据目标 LLM 在不同域的性能反馈自适应调整采样比例。集成我们提出的 Introspection-Rebirth（IR）机制，DynaBranches 通过滑动窗口二项似然比检验（SWBLRT）动态跟踪目标 LLM 更新期间的能力变化，进一步提升其在线适应能力。广泛的基准测试结果表明，Bohdi 在多个目标 LLM 上显著优于现有基线，数据效率更高，几乎消除目标 LLM 能力不平衡。我们的代码已公开于 https://github.com/gjq100/Bohdi.git。
引用
@article{arxiv.2506.15721,
title = {Bohdi: Heterogeneous LLM Fusion with Automatic Data Exploration},
author = {Junqi Gao and Zhichang Guo and Dazhi Zhang and Dong Li and Runze Liu and Pengfei Li and Kai Tian and Biqing Qi},
journal= {arXiv preprint arXiv:2506.15721},
year = {2025}
}
备注
Accepted by NeurIPS2025