打破浅层限制:面向无间隙 RGBT 跟踪的任务驱动像素级融合
计算机视觉与模式识别
2025-03-17 v1
摘要
当前的 RGBT 跟踪方法往往忽略了融合位置对缓解模态差异的影响,而这是实现有效跟踪的关键因素。我们的分析表明,越浅层的融合会产生越小的分布差异。然而,浅层网络有限的判别能力难以从噪声中区分任务相关信息,限制了像素级融合的潜力。为了打破浅层限制,我们提出了一种新颖的**任务驱动像素级融合**网络,命名为 **TPF**,它通过渐进式学习框架揭示了像素级融合在 RGBT 跟踪中的能力。具体而言,我们设计了一个轻量级的像素级融合适配器(PFA),利用 Mamba 的线性复杂度来确保实时、低延迟的 RGBT 跟踪。为了增强 PFA 的融合能力,我们的任务驱动渐进式学习框架首先利用自适应多专家蒸馏从最先进的图像融合模型中继承融合知识,建立稳健的初始化,然后采用解耦表示学习方案以实现任务相关信息融合。此外,为了克服初始模板与搜索帧之间的外观变化,我们提出了一种最近邻动态模板更新方案,该方案选择最接近当前搜索帧的最可靠帧作为动态模板。大量实验表明,TPF 在四个公开的 RGBT 跟踪数据集上显著优于现有的大多数先进跟踪器。代码将在被接收后发布。
引用
@article{arxiv.2503.11247,
title = {Breaking Shallow Limits: Task-Driven Pixel Fusion for Gap-free RGBT Tracking},
author = {Andong Lu and Yuanzhi Guo and Wanyu Wang and Chenglong Li and Jin Tang and Bin Luo},
journal= {arXiv preprint arXiv:2503.11247},
year = {2025}
}
备注
In peer review