中文

优化停车场空间分类:将集成模型蒸馏为轻量级分类器

计算机视觉与模式识别 2024-10-22 v1 机器学习

摘要

在部署用于智能城市应用的大规模机器学习模型时,如基于图像的停车场监控,数据通常必须发送到中心服务器以执行分类任务。这对城市基础设施构成挑战,因为基于图像的应用需要传输大量数据, necessitating complex network and hardware infrastructures to process the data. 为了解决基于图像的停车场空间分类中的问题,我们提出了创建一个稳健的分类器集,以充当教师模型。这些教师模型被蒸馏为可以在边缘设备上直接部署的轻量级和专业化的学生模型。通过教师模型生成的伪标记样本将知识蒸馏到学生模型中,这些样本用于在目标情景中对学生模型进行微调。我们的结果显示,学生模型的参数数量比教师模型少 26 倍,在目标测试数据集上实现了 96.6% 的平均准确率,超过了教师模型的 95.3% 的平均准确率。

关键词

引用

@article{arxiv.2410.14705,
  title  = {Optimizing Parking Space Classification: Distilling Ensembles into Lightweight Classifiers},
  author = {Paulo Luza Alves and André Hochuli and Luiz Eduardo de Oliveira and Paulo Lisboa de Almeida},
  journal= {arXiv preprint arXiv:2410.14705},
  year   = {2024}
}

备注

Accepted for presentation at the International Conference on Machine Learning and Applications (ICMLA) 2024