学习可迁移的拓扑先验以用于跨领域的多智能体 LLM 协作
计算与语言
2026-05-19 v1
摘要
基于大语言模型 (LLM) 的多智能体系统通过结构化通信协调专业化智能体,展现出了在复杂推理方面的强大潜力。然而,现有的拓扑演化方法通常从头开始为每个查询构建或优化协作拓扑,这导致了大量的在线搜索开销、高推理时 token 消耗以及在多领域设置中有限的扩展性。我们提出了 TopoPrior,一个用于学习跨领域多智能体 LLM 协作的可迁移拓扑先验的框架。TopoPrior 不是反复在线搜索有效的协作结构,而是从离线收集自多个领域的参考协作图中学习可重用的拓扑先验,并使用它们为下游精炼生成查询条件的初始协作图。通过将部分拓扑搜索从逐查询的在线优化转移到离线先验学习,TopoPrior 在分摊搜索成本的同时,与现有的拓扑演化骨干保持兼容。在技术上,TopoPrior 包含两个关键组件。首先,一个可迁移拓扑先验学习模块采用条件变分图框架,在潜在空间中捕获跨领域的可重用结构规律性。其次,一个查询条件的潜在适应模块引入对抗对齐,以减少不必要的领域差异,同时保留与查询相关的结构变化。在多领域推理基准上的实验表明,TopoPrior 持续改进了几个异构的拓扑演化骨干,同时减少了在线推理时的 token 使用量,且仅增加了少量可训练参数。这些结果表明,可迁移的拓扑初始化是提高跨领域多智能体 LLM 协作效率的有效且轻量的机制。
引用
@article{arxiv.2605.17359,
title = {Learning Transferable Topology Priors for Multi-Agent LLM Collaboration Across Domains},
author = {Taolin Zhang and Zijie Zhou and Jiuheng Wan and Tingyuan Hu and Chengyu Wang and Xiaofeng He and Richang Hong},
journal= {arXiv preprint arXiv:2605.17359},
year = {2026}
}