中文

指令驱动的红外-可见光图像融合:面向多样化下游任务的定制

计算机视觉与模式识别 2024-11-15 v1

摘要

红外与可见光图像融合技术的主要价值在于将融合结果应用于下游任务。然而,现有方法在同时处理多个下游任务时面临训练复杂度增加和单个任务性能显著妥协等挑战。为解决此问题,我们提出了面向任务的自适应调节(T-OAR),一种专为多任务环境设计的自适应机制。此外,我们引入了任务相关动态提示注入(T-DPI)模块,该模块从用户输入的文本指令生成特定任务的动态提示,并将其集成到目标表示中。这引导特征提取模块产生更紧密贴合下游任务特定需求的表示。通过将 T-DPI 模块纳入 T-OAR 框架,我们的方法生成针对任务特定需求定制的融合图像,无需单独训练或特定任务权重。这不仅降低了计算成本,还增强了跨多任务的适应性和性能。实验结果表明,我们的方法在目标检测、语义分割和显著目标检测方面表现出色,展示了其强大的适应性、灵活性和任务特异性。这为多任务环境中的图像融合提供了一个高效解决方案,凸显了该技术在多样化应用中的潜力。

关键词

引用

@article{arxiv.2411.09387,
  title  = {Instruction-Driven Fusion of Infrared-Visible Images: Tailoring for Diverse Downstream Tasks},
  author = {Zengyi Yang and Yafei Zhang and Huafeng Li and Yu Liu},
  journal= {arXiv preprint arXiv:2411.09387},
  year   = {2024}
}

备注

10 pages, 7 figures