面向任务的预训练用于可驾驶区域检测
计算机视觉与模式识别
2024-10-01 v1
摘要
预训练技术在深度学习中发挥着关键作用，提高了模型在各种任务上的性能。通过首先在大型数据集上进行训练，然后在特定任务的数据集上进行微调，预训练为模型提供了坚实的基础，提高了模型的泛化能力并加速了收敛速度。这一方法在自然语言处理和计算机视觉领域取得了显著成功。然而，传统预训练方法需要大型数据集和大量计算资源，只能通过长期训练学习共享特征，难以捕获更深入的任务特定特征。本文提出一种面向任务的预训练方法，从而利用 Segment Anything (SAM) 模型生成冗余分割提案。我们随后引入特定类别增强微调 (SCEF) 策略，用于微调 Contrastive Language-Image Pre-training (CLIP) 模型，从这些提案中选择与可驾驶区域最相关的提案。该方法为预训练模型生成大量粗糙训练数据，这些数据随后用于微调，以提高模型的性能。在 KITTI 道路数据集上进行的全面实验表明，我们的任务导向预训练方法在无预训练模型的全方位性能上实现了改进。而且，我们的预训练方法不仅超越了传统预训练方法，还在与最先进的自训练方法进行比较时取得了最佳性能。
引用
@article{arxiv.2409.20166,
title = {Task-Oriented Pre-Training for Drivable Area Detection},
author = {Fulong Ma and Guoyang Zhao and Weiqing Qi and Ming Liu and Jun Ma},
journal= {arXiv preprint arXiv:2409.20166},
year = {2024}
}