TinyRS-R1：面向遥感的紧凑型多模态语言模型
计算机视觉与模式识别
2025-12-01 v2
摘要
遥感应用常在无法托管今天7B参数多模态语言模型的边缘硬件上运行。本文介绍TinyRS，这是首个针对遥感任务优化的2B参数多模态小语言模型（MSLM），以及其推理增强变体TinyRS-R1。基于Qwen2-VL-2B，TinyRS经过四阶段管道训练：在百万卫星图像上进行预训练，在视觉指令示例上进行指令调优，使用我们提出的推理数据集进行Chain-of-Thought（CoT）微调，并通过Group Relative Policy Optimization（GRPO）进行对齐。TinyRS-R1在分类、视觉问答、视觉定位和开放式问答等任务上实现或超越了最近的7B参数遥感模型，同时仅需三分之一的内存和延迟。我们的分析表明，CoT推理在空间定位和场景理解方面取得显著益处，而非推理的TinyRS在简洁且延迟敏感的视觉问答任务中表现更佳。TinyRS-R1代表了首个具备GRPO对齐CoT推理的领域专用MSLM，用于通用遥感。
引用
@article{arxiv.2505.12099,
title = {TinyRS-R1: Compact Multimodal Language Model for Remote Sensing},
author = {Aybora Koksal and A. Aydin Alatan},
journal= {arXiv preprint arXiv:2505.12099},
year = {2025}
}
备注
Accepted to IEEE Geoscience and Remote Sensing Letters (GRSL). Code, models, and the captions for datasets are available at https://github.com/aybora/TinyRS