GEMS:基于记忆与技能的代理原生多模态生成
计算机视觉与模式识别
2026-03-31 v1
摘要
最近的多模态生成模型在通用生成任务上取得了显著进展,但在处理复杂指令和专业下游任务方面仍存在挑战。灵感来源于Claude Code等先进代理框架的成功,我们提出GEMS(Agent-Native Multimodal Generation with Memory and Skills),一个超越基础模型在通用和下游任务上局限性的框架。GEMS由三个核心组件构成。代理循环引入结构化的多代理框架,通过闭环优化不断改进生成质量。代理记忆提供持久的、轨迹级别的记忆,层次化存储事实状态和压缩的经验摘要,使我们能够全面把握优化过程,同时减少冗余。代理技能提供可扩展的领域特定 Expertise 集合,按需加载,使系统能够有效处理多样化的下游应用。在五个主流任务和四个下游任务上,通过多个生成后端进行评估,GEMS consistently 实现了显著的性能提升。最突出的是,GEMS使轻量级6B模型Z-Image-Turbo超过GenEval2上最新的Nano Banana 2,展示了代理套 harness 在超越模型原始限制方面的有效性。
引用
@article{arxiv.2603.28088,
title = {GEMS: Agent-Native Multimodal Generation with Memory and Skills},
author = {Zefeng He and Siyuan Huang and Xiaoye Qu and Yafu Li and Tong Zhu and Yu Cheng and Yang Yang},
journal= {arXiv preprint arXiv:2603.28088},
year = {2026}
}
备注
Project Page: https://gems-gen.github.io