大规模预训练驱动ALS应用：数据集开发与下游评估
计算机视觉与模式识别
2025-01-10 v1 人工智能
摘要
预训练和微调范式已彻底改变卫星遥感应用，但这种方法在空中激光扫描(ALS)方面的应用仍有限，这是一种用于森林管理和城市规划等应用的重要技术。本研究填补了这一空白，通过构建大规模ALS点云数据集并评估其对下游应用的影响。我们的数据集由美国国家地理局(USGS)3D Elevation Program提供的全美洲大陆范围ALS点云组成。为确保在高效数据收集的同时捕获多样化的土地覆盖和地形类型，我们引入了地理空间抽样方法，该方法根据土地覆盖图和数字地形模型选择点云瓷砖。作为基线自监督学习模型，我们采用BEV-MAE，这是一种针对3D户外点云的领先掩码自编码器，对构建的数据集进行预训练。随后对预训练模型进行微调以适应下游任务，包括树木种类分类、地形场景识别和点云语义分割。我们的结果表明，预训练模型在所有下游任务中均显著优于从零训练的模型，表明所学表征的可迁移性。此外，我们观察到，使用我们的地理空间抽样方法扩大数据集可持续地提升性能，而使用随机抽样构建的数据集预训练则未能实现类似的改进。这些发现凸显了构建数据集的实用性以及我们抽样策略在预训练和微调范式中的有效性。源代码和预训练模型将发布于\url{https://github.com/martianxiu/ALS_pretraining}。
引用
@article{arxiv.2501.05095,
title = {Advancing ALS Applications with Large-Scale Pre-training: Dataset Development and Downstream Assessment},
author = {Haoyi Xiu and Xin Liu and Taehoon Kim and Kyoung-Sook Kim},
journal= {arXiv preprint arXiv:2501.05095},
year = {2025}
}