基于知识蒸馏与量化在边缘设备上实现统一异常检测
计算机视觉与模式识别
2024-07-04 v1 人工智能
计算复杂性
新兴技术
摘要
随着深度学习和智能制造在工业 4.0 中的快速发展，迫切需要高吞吐、高性能和完全集成的视觉检查系统。大多数基于缺陷检测数据集（如 MVTec AD）的异常检测方法采用单类模型，需要为每个类别拟合独立模型。相反，统一模型消除为每个类别拟合独立模型的需求，显著降低成本和内存要求。因此，本文我们实验性地探讨了采用统一多类设置。我们的实验表明，多类模型在标准 MVTec AD 数据集上的性能与单类模型相当。因此，这表明在所考虑数据集中，由于对象类别间差异显著，可能无需为每个对象类别学习独立模型。此外，我们将部署三个不同的统一轻量级架构到 CPU 和边缘设备（NVIDIA Jetson Xavier NX）上。我们分析在边缘设备上部署的量化多类异常检测模型的延迟和内存要求，比较在不同精度宽度下的量化感知训练（QAT）和后训练量化（PTQ）性能。此外，我们探索了后训练场景中两种不同的校准方法，结果表明其中一种方法性能显著更好，凸显了无监督任务中校准方法的重要性。由于量化，PTQ 的性能下降被 QAT 进一步补偿，两个模型中后者在与原始 32 位浮点数相当的性能。
引用
@article{arxiv.2407.02968,
title = {Unified Anomaly Detection methods on Edge Device using Knowledge Distillation and Quantization},
author = {Sushovan Jena and Arya Pulkit and Kajal Singh and Anoushka Banerjee and Sharad Joshi and Ananth Ganesh and Dinesh Singh and Arnav Bhavsar},
journal= {arXiv preprint arXiv:2407.02968},
year = {2024}
}
备注
20 pages