中文

从多智能体到单智能体:技能蒸馏何时有益?

人工智能 2026-04-27 v3

摘要

多智能体系统(MAS)通过分配专业知识来处理复杂任务,但这通常以沉重的协调开销、上下文碎片化和脆弱的阶段排序为代价。将MAS蒸馏为单智能体技能可以绕过这些成本,但这种转换缺乏关于何时以及蒸馏什么的原理性答案。相反,经验结果出人意料地不一致:在完全相同任务的指标上,技能提升范围从28%的改进到2%的下降。在这项工作中,我们揭示了技能效用不是由任务决定的,而是由评估指标决定的。我们引入了Metric Freedom(F),这是第一个技能效用的先验预测器。F通过Mantel检验量化输出多样性与分数方差的耦合方式,来衡量指标评分景观的拓扑刚性。在F的指导下,我们提出了AdaSkill,一个两阶段的自适应蒸馏框架。第一阶段作为选择性提取机制,提取工具和知识,同时丢弃“自由”指标上的限制性结构以保留探索。第二阶段选择性地在自由指标上应用迭代细化,利用其宽容的评分景观来安全地最大化剩余空间。在4个任务、11个数据集和6个指标上的评估中,F强烈预测技能效用(r=-0.85, p<0.0001)。引人注目的是,相同的智能体轨迹在刚性指标与自由指标下产生截然相反的技能提升,这表明技能效用从根本上是一个指标级别的属性。在此信号的驱动下,AdaSkill匹配或超过了原始MAS,同时将成本降低高达8倍,延迟降低高达15倍。

关键词

引用

@article{arxiv.2604.01608,
  title  = {From Multi-Agent to Single-Agent: When Is Skill Distillation Beneficial?},
  author = {Binyan Xu and Dong Fang and Haitao Li and Kehuan Zhang},
  journal= {arXiv preprint arXiv:2604.01608},
  year   = {2026}
}

备注

35 pages, 15 figures, 10 tables