利用结合自监督预训练与定制微调的 Transformer 进行车道渲染的智能异常检测
摘要
蓬勃发展的数字地图导航服务为驾驶员提供了极大的便利。然而，车道渲染地图图像中存在的异常偶尔会引入潜在危险，因为这些异常可能会误导人类驾驶员，从而导致不安全的驾驶条件。为了应对这一问题并准确有效地检测异常，本文将车道渲染图像异常检测转化为分类问题，并提出了一种四阶段流水线，包括数据预处理、使用掩码图像建模方法的 自监督预训练、使用带标签平滑的交叉熵损失进行定制微调，以及利用最先进的深度学习技术（尤其是涉及 Transformer 模型的技术）进行后处理来解决该问题。各种实验验证了所提出流水线的有效性。结果表明，所提出的流水线在车道渲染图像异常检测中表现出卓越的性能，值得注意的是，使用 MiM 的自监督预训练可以大大提高检测精度，同时显著减少总训练时间。例如，采用带均匀掩码的 Swin Transformer 作为自监督预训练（Swin-Trans-UM）获得了 94.77% 的更高准确率和 0.9743 的改进曲线下面积（AUC）分数，相比之下，没有预训练的纯 Swin Transformer（Swin-Trans）的准确率为 94.01%，AUC 为 0.9498。微调轮数从最初的 280 骤减至 41。总之，所提出的流水线结合了使用 MiM 的自监督预训练和其他先进的深度学习技术，成为增强数字导航系统中车道渲染图像异常检测准确性和效率的稳健解决方案。
引用
@article{arxiv.2312.04398,
title = {Intelligent Anomaly Detection for Lane Rendering Using Transformer with Self-Supervised Pre-Training and Customized Fine-Tuning},
author = {Yongqi Dong and Xingmin Lu and Ruohan Li and Wei Song and Bart van Arem and Haneen Farah},
journal= {arXiv preprint arXiv:2312.04398},
year = {2025}
}
备注
16 pages, 7 figures, accepted and presented at the 103rd Transportation Research Board (TRB) Annual Meeting, and published by Transportation Research Record: Journal of the Transportation Research Board