混合模型:通过 N 向自我评估 deliberation 统一异构智能体
人工智能
2026-01-26 v1 机器学习
多智能体系统
系统与控制
系统与控制
摘要
本文引入了 N 向自我评估 deliberation(NSED)协议,这是一种运行时混合模型(MoM)架构,通过构建来自多个不同专家智能体的新兴复合模型。不同于传统混合专家(MoE)依赖静态门控网络的做法,NSED 采用动态专家经纪人——一种运行时优化引擎,将模型选择视为背包问题的变体,将异构 checkpoint 根据实时遥测和成本约束绑定到功能角色。在执行层面,我们将 deliberation 形式化为宏观规模的循环神经网络(RNN),其中共识状态通过语义遗忘门反馈,以实现无需按比例增加 VRAM 缩放的迭代细化。关键组件包括用于信用无 N 到 N 同行审查的编排布料、用于非线性共识的二次投票激活函数,以及基于反馈的状态更新。在具有挑战性的基准测试(AIME 2025、LiveCodeBench)上的经验验证表明,这一拓扑结构允许由小型(小于 20B)消费级模型组成的 ensemble 匹配或超越 100B+ 参数模型的最先进水平,确立了新的硬件套利效率前沿。此外,在 DarkBench 安全套件上的测试揭示了内在对齐特性,通过同行介导的纠正将 sycophancy 分数降至任何单个 agent 都更低。
引用
@article{arxiv.2601.16863,
title = {Mixture-of-Models: Unifying Heterogeneous Agents via N-Way Self-Evaluating Deliberation},
author = {Tims Pecerskis and Aivars Smirnovs},
journal= {arXiv preprint arXiv:2601.16863},
year = {2026}
}