B-GRTO: Bootstrapped Group Relative Tool Optimization for Referring Segmentation
计算机视觉与模式识别
2026-05-25 v1 机器学习
摘要
分割是计算机视觉中的基础任务，构成像级场景理解的基石，服务于从自动感知到医学图像分析的各类应用。对于复杂的指代分割任务，近期方法将大型视觉语言模型与分割解码器配对：前者分析图像和提示，后者预测目标掩码。虽然强化学习改进了推理密集型视觉语言系统，但可训练工具（如分割解码器）通常以可微目标独立优化， 将此类目标原则性地集成到强化学习中仍未得到充分探索。因此，我们引入群相对工具优化（GRTO），这是一种基于数学推导的框架，用于联合优化策略和可微工具使用。GRTO复用群相对策略优化（GRPO） rollout 以优化辅助工具目标，使解码器梯度补充策略奖励。进一步，我们推导了Bootstrapped-GRTO（B-GRTO），这是一种预训练方法，通过低成本引导工具实现快速收敛和卓越性能。在三个具有挑战性的指代分割设置下，B-GRTO相较于纯粹的GRPO实现了显著提升，甚至匹配或超越了领域特定的最新方法。这表明了将强化学习与可微辅助目标统一以提升推理密集型分割任务的价值。
引用
@article{arxiv.2605.23500,
title = {B-GRTO: Bootstrapped Group Relative Tool Optimization for Referring Segmentation},
author = {Mario Markov and Stefan Maria Ailuro and Mohammad Mahdi and Luc Van Gool and Danda Pani Paudel},
journal= {arXiv preprint arXiv:2605.23500},
year = {2026}
}