PyVision-RL:通过强化学习构建开放型智能视觉模型
人工智能
2026-02-25 v1 计算机视觉与模式识别
摘要
agentic 多模态模型的强化学习往往 suffers from interaction collapse,即模型学习减少工具使用和多轮推理,从而限制了 agentic 行为的优势。我们引入 PyVision-RL,一个用于开放权重多模态模型的强化学习框架,通过 oversampling-filtering-ranking rollout 策略结合 accumulative tool reward 来防止 collapse 并鼓励多轮工具使用。使用统一的训练管线,我们开发了 PyVision-Image 和 PyVision-Video 用于图像和视频理解。对于视频推理,PyVision-Video 采用按需上下文构建,selectively 采样任务相关帧以显著减少视觉 token 用量。实验表明,该方法表现出色且效率更高,证明 sustained interaction 和按需视觉处理对可扩展的多模态 agent 至关重要。
关键词
引用
@article{arxiv.2602.20739,
title = {PyVision-RL: Forging Open Agentic Vision Models via RL},
author = {Shitian Zhao and Shaoheng Lin and Ming Li and Haoquan Zhang and Wenshuo Peng and Kaipeng Zhang and Chen Wei},
journal= {arXiv preprint arXiv:2602.20739},
year = {2026}
}
备注
preprint