DEI: 基于多样性的演化推理，用于质量-多样性搜索
机器学习
2026-05-27 v1 人工智能
摘要
我们提出 DEI: Diversity in Evolutionary Inference，即一种分布式质量-多样性(QD)搜索框架，将异构大型语言模型(LLM)作为变异算子分配到相互通信的工作节点中。与单质并行搜索不同，后者在所有工作节点中复制单个模型的归纳偏见，DEI 将每个 LLM 的独特创造性先验视为行为新颖性的互补来源。扩展 Digital Red Queen 框架以集成 DEI，节点在每轮结束时共享局部最优解，以为下一轮的种群提供来源。这一过程创造了跨模型的对抗压力，以超越单模型自我对弈的鲁棒性。针对 Core War 域进行评估，该域是一个竞赛编程基准，红客战士程序在模拟机器中进行战斗。四节点异构集团(GPT-5.4-mini、Claude Sonnet 4.6、GPT-5.2 和 Claude Haiku 4.5)在合并档案 QD-Score 上比单节点基线高出 124%(45.90 vs. 20.46)，覆盖率提高 28%(80.6% vs. 63.0%)。异构集团还在 QD-Score、覆盖率和保留解的普适性方面超过预算相同的同质集团。这些结果提供了模型多样性而非仅仅并行性是分布式 LLM 基于 QD 搜索关键驱动力的首个实证证据。
引用
@article{arxiv.2605.27130,
title = {DEI: Diversity in Evolutionary Inference for Quality-Diversity Search},
author = {John Donaghy and Shikhar Rastogi},
journal= {arXiv preprint arXiv:2605.27130},
year = {2026}
}
备注
Accepted to ICML 2026 Workshop Scalable Learning and Optimization for Efficient Multimodal AI Agents (SCALE)