面向货运列车类 MLP 高效视觉故障检测的空间动态蒸馏
计算机视觉与模式识别
2023-12-12 v1 图像与视频处理
摘要
尽管卷积神经网络（CNN）在目标检测任务中取得了成功应用，但其从货运列车图像中检测故障的效率仍不足以应用于实际工程场景。传统 CNN 中空间不变性与池化层的建模缺陷，常因忽略关键的全局信息，导致货运列车故障目标检测任务出现定位错误。为解决这些问题，我们设计了一种基于多层感知机（MLP）的空间动态蒸馏框架，用于货运列车的视觉故障检测。我们首先提出轴向平移策略，使类 MLP 架构能够克服空间不变性的挑战，并有效融合局部与全局线索。我们提出了一种无需预训练教师的动态蒸馏方法，包含一个动态教师机制，能有效消除与 student 模型间的语义差异。该方法从较低层特征表象与较高层标签语义中挖掘更丰富的细节作为额外监督信号，利用高效的实例嵌入对全局空间与语义信息进行建模。此外，所提出的动态教师可与 student 联合训练，以进一步提升蒸馏效率。在六个典型故障数据集上的大量实验表明，我们的方法优于当前 SOTA 检测器，在较低计算成本下实现了实时检测的最高准确率。源代码将发布于 \url{https://github.com/MVME-HBUT/SDD-FTI-FDet}。
引用
@article{arxiv.2312.05832,
title = {Spatial-wise Dynamic Distillation for MLP-like Efficient Visual Fault Detection of Freight Trains},
author = {Yang Zhang and Huilin Pan and Mingying Li and An Wang and Yang Zhou and Hongliang Ren},
journal= {arXiv preprint arXiv:2312.05832},
year = {2023}
}
备注
10 pages, 6 figures